Nature: Научная группа разработала критерии определения сознания ИИ

В этом может помочь контрольный список, составленный на основе шести нейронаучных теорий сознания. Зачем это вообще нужно и почему так важно?

В научной фантастике давно существует идея о том, что искусственный интеллект может стать сознательным — вспомните суперкомпьютер HAL 9000, ставший злодеем в фильме 1968 года «2001 год: космическая одиссея». С быстрым развитием искусственного интеллекта (ИИ) такая возможность становится все менее фантастичной и даже признается лидерами в области ИИ. Например, в прошлом году Илья Суцкевер, главный научный сотрудник компании OpenAI, создавшей чат-бота ChatGPT, написал в своем твиттере, что некоторые из самых современных сетей ИИ могут быть „слегка сознательными“.

Многие исследователи утверждают, что системы ИИ еще не достигли уровня сознания, но темпы развития ИИ заставляют их задуматься: а как мы узнаем, что это так?

Чтобы ответить на этот вопрос, группа из 19 нейробиологов, философов и компьютерщиков разработала список критериев, соответствие которым указывает на высокую вероятность того, что система обладает сознанием. Свое предварительное руководство они опубликовали в начале этой недели в репозитории препринтов arXiv1, не дождавшись рецензирования. По словам соавтора Роберта Лонга, философа из Center for AI Safety, исследовательской некоммерческой организации из Сан-Франциско (штат Калифорния), «создавалось впечатление, что существует настоящий дефицит подробных, эмпирически обоснованных, вдумчивых обсуждений сознания ИИ».

Команда считает, что неспособность определить, стала ли система ИИ сознательной, имеет важные моральные последствия. По словам соавтора исследования Меган Питерс, нейробиолога из Калифорнийского университета в Ирвайне, «если что-то было названо „сознательным“, это многое меняет в том, как мы, люди, считаем, что с этим существом следует обращаться».

Лонг добавляет, что, насколько он может судить, компании, создающие передовые системы ИИ, не прилагают достаточных усилий для оценки моделей сознания и разработки планов действий в случае его появления. «И это несмотря на то, что, если послушать высказывания руководителей ведущих лабораторий, они говорят, что сознание ИИ или разум ИИ — это то, что их интересует», — добавляет он.

Nature связался с двумя крупнейшими технологическими компаниями, участвующими в развитии ИИ, — Microsoft и Google. Представитель Microsoft заявил, что компания разрабатывает ИИ, ориентируясь на ответственное отношение к производительности человека, а не на копирование его интеллекта. Что стало ясно после появления GPT-4 — самой продвинутой версии ChatGPT, опубликованной публично, — «так это то, что для оценки возможностей этих моделей ИИ требуются новые методики, поскольку мы изучаем, как раскрыть весь потенциал ИИ на благо всего общества», — заявил представитель компании. Компания Google не ответила на этот вопрос.

Что такое сознание?

Одной из проблем изучения сознания в ИИ является определение того, что значит быть сознательным. По словам Питерса, для целей отчета исследователи сосредоточились на «феноменальном сознании», иначе называемом субъективным опытом. Это опыт бытия — каково быть человеком, животным или системой искусственного интеллекта (если таковая окажется сознательной).

Существует множество нейронаучных теорий, описывающих биологические основы сознания. Однако единого мнения о том, какая из них является «правильной», нет. Поэтому для создания своей схемы авторы использовали целый ряд этих теорий. Идея состоит в том, что если система искусственного интеллекта функционирует таким образом, что соответствует многим из этих теорий, то вероятность того, что она обладает сознанием, возрастает.

Авторы утверждают, что такой подход к оценке сознания более эффективен, чем простое тестирование системы на поведенческие факторы — например, спросить у ChatGPT, обладает ли она сознанием, или бросить ей вызов и посмотреть, как она отреагирует. Это связано с тем, что системы искусственного интеллекта стали очень хорошо подражать человеку.

По мнению нейробиолога Анила Сета (Anil Seth), директора центра науки о сознании при Сассекском университете (г. Брайтон, Великобритания), подход группы, который авторы называют теоретически обоснованным, является хорошим способом продвижения вперед. Однако он подчеркивает, что «нам нужны более точные, хорошо проверенные теории сознания», — говорит он.

Теоретический подход

Для разработки своих критериев авторы предположили, что сознание связано с тем, как системы обрабатывают информацию, независимо от того, из чего они состоят — нейронов, компьютерных чипов или чего-то еще. Такой подход называется вычислительным функционализмом. Они также предположили, что основанные на нейронауке теории сознания, которые изучаются с помощью сканирования мозга и других методов у людей и животных, могут быть применены к ИИ.

Исходя из этих предпосылок, команда отобрала шесть таких теорий и извлекла из них список индикаторов сознания. Одна из них — теория глобального рабочего пространства — утверждает, например, что человек и другие животные используют множество специализированных систем, называемых модулями, для выполнения когнитивных задач, таких как зрение и слух. Эти модули работают независимо, но параллельно, и обмениваются информацией, объединяясь в единую систему. По словам Лонга, человек может оценить, демонстрирует ли та или иная система искусственного интеллекта показатель, вытекающий из этой теории, «изучив архитектуру системы и то, как информация проходит через нее».

Сет впечатлен прозрачностью предложения команды.

Оно очень продуманное, не напыщенное и четко формулирует свои предположения, — говорит исследователь.

Я не согласен с некоторыми предположениями, но это совершенно нормально, потому что я вполне могу ошибаться.

Авторы отмечают, что данная работа далека от окончательного решения вопроса о том, как оценивать системы ИИ на предмет наличия сознания, и хотят, чтобы другие исследователи помогли доработать их методологию. Однако уже сейчас можно применить эти критерии к существующим системам ИИ. Например, в отчете оцениваются большие языковые модели, такие как ChatGPT, и делается вывод о том, что этот тип систем, вероятно, обладает некоторыми признаками сознания, связанными с теорией глобального рабочего пространства. Однако, в конечном счете, работа не позволяет утверждать, что какая-либо существующая система ИИ является сильным кандидатом на сознание — по крайней мере, пока.

26.08.2023


Подписаться в Telegram



Net&IT

Студенты ТИСБИ разработали проект онлайн-платформы для геймеров
Студенты ТИСБИ разработали проект онлайн-платформы для геймеров

Студенты Университета управления ТИСБИ в ...

Nature: Созданные ИИ тексты будут размечаться водяными знаками
Nature: Созданные ИИ тексты будут размечаться водяными знаками

Исследователи из лондонской лаборатории G...

Российская игра о наполеоновских войнах станет бесплатной
Российская игра о наполеоновских войнах станет бесплатной

У российской аудитории растет интерес к в

В НГУ запустили пилотный кластер суперкомпьютерного центра «Лаврентьев»
В НГУ запустили пилотный кластер суперкомпьютерного центра «Лаврентьев»

В Новосибирском государственном университете з...

Эксперты МИФИ объяснили решение Microsoft и Google о мирном атоме
Эксперты МИФИ объяснили решение Microsoft и Google о мирном атоме

Технологические корпорации всё чаще обращ...

HB&ET: Пожилые чаще молодых относятся к ИИ как к кому-то живому
HB&ET: Пожилые чаще молодых относятся к ИИ как к кому-то живому

В исследовании Имперского колледжа Лондона люд...

В МФТИ создали ПО для нефтяников и золотодобытчиков
В МФТИ создали ПО для нефтяников и золотодобытчиков

Сотрудники МФТИ предложили цифровое решение, к...

Студенты КНИТУ создали двуязычного ИИ-бота для туристов
Студенты КНИТУ создали двуязычного ИИ-бота для туристов

Студенты КНИТУ создали туристического бота с&n...

ACS Photonics: Разработаны улучшенные очки дополненной реальности
ACS Photonics: Разработаны улучшенные очки дополненной реальности

Дополненная реальность накладывает цифровые из...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

Российские ученые предложили использовать вирус растений для лечения саркомы
Российские ученые предложили использовать вирус растений для лечения саркомы
Menopause: Ученые заподозрили роль эстрогена в развитии астмы
Menopause: Ученые заподозрили роль эстрогена в развитии астмы
AEM: Гибридный полупроводник позволит лучше понять спинтронику
AEM: Гибридный полупроводник позволит лучше понять спинтронику
FCoSc: Гигантские крысы поборются с незаконной торговлей дикими животными
FCoSc: Гигантские крысы поборются с незаконной торговлей дикими животными
В России разработали искусственные кости и новые методы лечения позвоночника
В России разработали искусственные кости и новые методы лечения позвоночника
TE&E: Животные потребляют алкоголь чаще, чем мы думаем
TE&E: Животные потребляют алкоголь чаще, чем мы думаем
Волнообразные упражнения со штангой: польза или вред
Волнообразные упражнения со штангой: польза или вред
JA&FC: Сорго обогащает рацион питания биоактивными соединениями
JA&FC: Сорго обогащает рацион питания биоактивными соединениями
Nature Communications: Жизнь все-таки можно повернуть назад
Nature Communications: Жизнь все-таки можно повернуть назад
МАИ: Дроны-дефектоскописты уступают человеку в точности, зато берут скоростью
МАИ: Дроны-дефектоскописты уступают человеку в точности, зато берут скоростью
EBioMedicine: Создан инструмент для выявления сепсиса у новорожденных
EBioMedicine: Создан инструмент для выявления сепсиса у новорожденных
Численное моделирование повысит эффективность 3D-печати из стали 316LSi
Численное моделирование повысит эффективность 3D-печати из стали 316LSi
Создан особо пластичный алюминиевый сплав для высокотехнологичных отраслей
Создан особо пластичный алюминиевый сплав для высокотехнологичных отраслей
Влияние цвета в архитектуре на самоконтроль человека: мнение эксперта МХПИ
Влияние цвета в архитектуре на самоконтроль человека: мнение эксперта МХПИ
Томские ученые представили цифровое решение для оптимизации НПЗ
Томские ученые представили цифровое решение для оптимизации НПЗ

Новости компаний, релизы

Международные эксперты оценили разработанную для нижегородского завода технологию
Регистрация сми на IV конгресс молодых ученых продлевается до 6 ноября
Фестиваль научных театров «Наука всем!» прошёл в Санкт-Петербурге
На старт! Внимание! MITEX!
Пироговская олимпиада для школьников по химии и биологии