Дневник философа. 10.03.2023. Что означает быть чатом GPT?

Вчера (9.03.23) в FAZ вышло интересное интервью Дэвида Чалмерса под названием «Что означает быть чатом GPT?». Я думаю, многие из вас знают, что это один из ведущих современных философов, исследующих проблему сознания.

Предлагаю несколько выдержек из этого интервью и мои комментарии к ним.

Чалмерс считает, что создание сильной версии ИИ (искусственного интеллекта) не за горами. «Нужно воспринимать всерьез ту возможность, что мы получим ИИ, обладающий сознанием, уже в ближайшие 10-20 лет».

Но что такое сознание? Имеет сознание та сущность, которая обладает субъективным опытом. Помните статью Томаса Нагеля «Что значит быть летучей мышью»? Система обладает сознанием, если относительно имеет смысл вопрос: что значит быть этой системой? Тогда система не просто реагирует на внешние импульсы, но и, одновременно, обладает внутренними переживаниями, обладает внутренним опытом.

«Я думаю, что сознание тесно связано с обработкой информации. Ведь вопрос в том, правильно ли программы (Sprachmodelle) обрабатывают информацию. Я также считаю очень интересной спекулятивную теорию панпсихизма. Согласно этой теории, сознание существует повсюду в природе: в деревьях, бактериях, всех видах материи. Поэтому не было бы слишком рискованным шагом сказать, что сознание может быть присуще и программам».

«Возможно даже, что в мире уже существуют многие формы сознания, которые мы не можем познать».

Лучший признак сознания – это когда кто-то говорит, что обладает сознанием. Философ Сьюзан Шнайдер и астрофизик Эдвин Тернер разработали тест, который помогает выяснять, обладает ли машина внутренней жизнью.

Информация о Шнайдер: https://en.wikipedia.org/wiki/Susan_Schneider

Информация о тесте Шнайдер и Тернера:

https://blogs.scientificamerican.com/observations/is-anyone-home-a-way-to-find-out-if-ai-has-become-self-aware/

Конечно, программа иногда отвечает, что обладает сознанием. Но доказательство наличия сознания у программы не совсем убедительны. Ведь сама программа начинена философскими и психологическими текстами и научена имитировать беседы о сознании.

Но что может дать нам адекватные критерии наличия сознания у программы? Чалмерс считает, что дело не в биологической уникальности человеческого сознания (здесь он спорит с Джоном Серлом и его экспериментов «Китайская комната»). «Я думаю решающим фактором является не человеческая биология, а то, каким образом обрабатывается информация. Если компьютер сможет релевантным образом обрабатывать информацию, то тогда у него и возникнет сознание».

То, как физическая система порождает внутреннюю жизнь, или как мозг порождает мысли и переживания, мы не можем понять даже на примере человеческого мозга. «Мы можем объяснить, каким именно образом ведет себя система, как она обрабатывает информацию, как она создает вербальные сообщения и как продуцирует разумное поведение. Но почему все это воспринимается и ощущается «изнутри» [как субъективный опыт, как внутренние переживания, направленные вовне – А.Б.]? Этого никто не знает».

Если компьютер, в конце концов, обретет сознание, нужно будет уважать его права. Но, вместе с тем, Чалмерс понимает, что это, хотя и увлекательный, но крайне опасный эксперимент. То, что мы будем пользоваться такими машинами, может восприниматься ими как эксплуатация, как своеобразная форма рабства. Чалмерс считает, что к таким вещам мы должны подходить медленнее и аккуратнее.

Но, добавлю от себя, если мы захотим убеждать роботов с помощью аргументов, то, думаю, в этой сфере они нас переиграют. Роботы лучше сыграют в эти интеллектуальные шахматы. К тому же, они, вполне вероятно, научатся очень умело манипулировать человеческим сознанием.

В конце беседы Чалмерс говорит, что он не религиозен. Ссылка на Бога только откладывает решение проблемы. Ведь тогда нужно объяснить самого Бога. Нет, лучше опираться на науку и философию, говорит Чалмерс. «Сознание является частью нашей повседневной жизни, оно является частью универсума. Мы должны попытаться объяснить сознание, насколько это возможно. Хотя в этом вопросе естественные науки и философия находятся только на начальной стадии исследования. Но я убежден, что эту загадку [загадку сознания – А.Б.] мы рано или поздно сможем разгадать».

Позволю себе два замечания по поводу этих высказываний Чалмерса. Он сам говорит, что, возможно, в мире существуют такие формы сознания, которые мы не можем познать. А если и не сможем? Далее, само наличие сознания в мире требует не меньших усилий для его объяснения, чем существования Бога.

Почему в мире существует сознание? Почему миру присуще сознание? Наконец, что значит объяснить сознание? Это не банальные вопросы. Ведь Чалмерс считает, что сознание – фундаментальное свойство вселенной, а не только продукт эволюции.

Чем отличается сознание от того, что не является сознанием? Почему в мире, уже на начальной фазе существования вселенной, произошло такое удвоение? И если мир пронизан сознанием, то утверждение или отрицание существования Бога – вещь вторичная. Если мир обладает сознанием на фундаментальном уровне и осознает себя в различных формах (вплоть до высших форм, таких как человеческое сознание), то как тогда можно отрицать существование Бога?

Тогда мы просто спорим о словах. Сам мир – разумное существо, обладающее сложным и многообразным сознанием. Как говорил древний философ Фалес (правда, речь идет о поздних интерпретациях его мысли) «все полно богов». Разве панпсихизм – это не утверждение существования Бога или богов?

Во всяком случае, размышления Чалмерса как всегда интересны и провоцируют новые вопросы и новые попытки на них ответить.