Чужое сознание не обнаруживают, а признают по соглашению

Врачи научились узнавать, что человек в сознании, даже когда он не может ни шевельнуться, ни произнести слова. Пациенту после инсульта, который лежит без движения и без речи, задают вопросы «да/нет» и просят представить игру в теннис, если ответ «да», и прогулку по своему дому, если «нет». На томографе теннис зажигает моторную кору, дом — области пространственной памяти. Человек, которого считали ушедшим, отвечает

🔸 Это выглядит как обнаружение сознания приборами, и хочется поднести тот же прибор к любому, о ком мы спорим, — к собаке, к младенцу, к нейросети. Но стоит спросить, откуда взялись сами сигнатуры, и картина переворачивается. Учёные не увидели сознание в мозге. Они начали с допущения: когда человек сообщает, что что-то осознаёт, ему можно верить. Потом сравнили, какие узоры активности появляются в такие моменты и никогда — когда сознания нет, под наркозом или в глубоком сне. Эта разница и получила имя «сигнатуры сознания»

🔸 Круг замкнулся: мы верим людям на слово, выводим из этого узоры, а узорами «доказываем», что люди в сознании. Внутри нашего вида это работает, потому что пациент после инсульта сделан из того же, из чего сделаны мы, и его теннис — это наш теннис. Но кремний устроен не так, как углерод, и узоры человеческого мозга к нему просто не прикладываются. А первый шаг — поверить на слово — для машины мы делать не обязаны: программа, которая сообщает, что ей больно, может быть всего лишь программой, которую так написали

🔸 Здесь мы упираемся в стену, которую философы знают тысячи лет, — проблему чужих сознаний: доказать, что кто-то, кроме меня, что-то чувствует, невозможно в принципе. Про других людей мы этого тоже не знаем — мы допускаем. Каждый из нас живёт с недоказуемой гипотезой, что за лицами вокруг кто-то есть, и ни одно открытие науки не сделало из этой гипотезы факт

🔸 Лучшее, что придумано, — тест Тьюринга, 1950 год: мы переписываемся вслепую с машиной и с человеком, сколько угодно и о чём угодно, и если не смогли отличить — машину следует признать мыслящей. Заметьте слово «признать». Тест не заглядывает внутрь. Он проверяет одно: «сойдёшь ли за своего?»

🔸 Алан Тьюринг знал, что это за вопрос, не из теории. Он был геем в Британии, где за это судили; в 1952 году его осудили и подвергли химической кастрации, а через два года его не стало. Каждый гей его времени сдавал такой же тест ежедневно: «сойдёшь ли за натурала?» Кем человек был на самом деле, никого не интересовало — значение имело только то, что о нём думают. Этот опыт Тьюринг и перенёс на машины: будет ли у них сознание, неважно; важно лишь, что решат о них люди

🔸 Так что чужое сознание — не то, что открывают, а то, что присваивают. Мы не нашли его у другого человека приборами, мы дали ему статус существа, которое чувствует, — и точно так же однажды решим или не решим про машины, а раньше решали про животных и не раз про других людей. Вопрос «есть ли у него сознание?» на поверку всегда оказывается вопросом «готовы ли мы впустить его в круг тех, кому нельзя причинять боль?» И отвечают на него не приборы, а мы