В этом может помочь контрольный список, составленный на основе шести нейронаучных теорий сознания. Зачем это вообще нужно и почему так важно? В научной фантастике давно существует идея о том, что искусственный интеллект может стать сознательным — вспомните суперкомпьютер HAL 9000, ставший злодеем в фильме 1968 года «2001 год: космическая одиссея». С быстрым развитием искусственного интеллекта (ИИ) такая возможность становится все менее фантастичной и даже признается лидерами в области ИИ. Например, в прошлом году Илья Суцкевер, главный научный сотрудник компании OpenAI, создавшей чат-бота ChatGPT, написал в своем твиттере, что некоторые из самых современных сетей ИИ могут быть „слегка сознательными“. Многие исследователи утверждают, что системы ИИ еще не достигли уровня сознания, но темпы развития ИИ заставляют их задуматься: а как мы узнаем, что это так? Чтобы ответить на этот вопрос, группа из 19 нейробиологов, философов и компьютерщиков разработала список критериев, соответствие которым указывает на высокую вероятность того, что система обладает сознанием. Свое предварительное руководство они опубликовали в начале этой недели в репозитории препринтов arXiv1, не дождавшись рецензирования. По словам соавтора Роберта Лонга, философа из Center for AI Safety, исследовательской некоммерческой организации из Сан-Франциско (штат Калифорния), «создавалось впечатление, что существует настоящий дефицит подробных, эмпирически обоснованных, вдумчивых обсуждений сознания ИИ». Команда считает, что неспособность определить, стала ли система ИИ сознательной, имеет важные моральные последствия. По словам соавтора исследования Меган Питерс, нейробиолога из Калифорнийского университета в Ирвайне, «если Лонг добавляет, что, насколько он может судить, компании, создающие передовые системы ИИ, не прилагают достаточных усилий для оценки моделей сознания и разработки планов действий в случае его появления. «И это несмотря на то, что, если послушать высказывания руководителей ведущих лабораторий, они говорят, что сознание ИИ или разум ИИ — это то, что их интересует», — добавляет он. Nature связался с двумя крупнейшими технологическими компаниями, участвующими в развитии ИИ, — Microsoft и Google. Представитель Microsoft заявил, что компания разрабатывает ИИ, ориентируясь на ответственное отношение к производительности человека, а не на копирование его интеллекта. Что стало ясно после появления GPT-4 — самой продвинутой версии ChatGPT, опубликованной публично, — «так это то, что для оценки возможностей этих моделей ИИ требуются новые методики, поскольку мы изучаем, как раскрыть весь потенциал ИИ на благо всего общества», — заявил представитель компании. Компания Google не ответила на этот вопрос. Что такое сознание?Одной из проблем изучения сознания в ИИ является определение того, что значит быть сознательным. По словам Питерса, для целей отчета исследователи сосредоточились на «феноменальном сознании», иначе называемом субъективным опытом. Это опыт бытия — каково быть человеком, животным или системой искусственного интеллекта (если таковая окажется сознательной). Существует множество нейронаучных теорий, описывающих биологические основы сознания. Однако единого мнения о том, какая из них является «правильной», нет. Поэтому для создания своей схемы авторы использовали целый ряд этих теорий. Идея состоит в том, что если система искусственного интеллекта функционирует таким образом, что соответствует многим из этих теорий, то вероятность того, что она обладает сознанием, возрастает. Авторы утверждают, что такой подход к оценке сознания более эффективен, чем простое тестирование системы на поведенческие факторы — например, спросить у ChatGPT, обладает ли она сознанием, или бросить ей вызов и посмотреть, как она отреагирует. Это связано с тем, что системы искусственного интеллекта стали очень хорошо подражать человеку. По мнению нейробиолога Анила Сета (Anil Seth), директора центра науки о сознании при Сассекском университете (г. Брайтон, Великобритания), подход группы, который авторы называют теоретически обоснованным, является хорошим способом продвижения вперед. Однако он подчеркивает, что «нам нужны более точные, хорошо проверенные теории сознания», — говорит он. Теоретический подходДля разработки своих критериев авторы предположили, что сознание связано с тем, как системы обрабатывают информацию, независимо от того, из чего они состоят — нейронов, компьютерных чипов или Исходя из этих предпосылок, команда отобрала шесть таких теорий и извлекла из них список индикаторов сознания. Одна из них — теория глобального рабочего пространства — утверждает, например, что человек и другие животные используют множество специализированных систем, называемых модулями, для выполнения когнитивных задач, таких как зрение и слух. Эти модули работают независимо, но параллельно, и обмениваются информацией, объединяясь в единую систему. По словам Лонга, человек может оценить, демонстрирует ли та или иная система искусственного интеллекта показатель, вытекающий из этой теории, «изучив архитектуру системы и то, как информация проходит через нее». Сет впечатлен прозрачностью предложения команды.
Авторы отмечают, что данная работа далека от окончательного решения вопроса о том, как оценивать системы ИИ на предмет наличия сознания, и хотят, чтобы другие исследователи помогли доработать их методологию. Однако уже сейчас можно применить эти критерии к существующим системам ИИ. Например, в отчете оцениваются большие языковые модели, такие как ChatGPT, и делается вывод о том, что этот тип систем, вероятно, обладает некоторыми признаками сознания, связанными с теорией глобального рабочего пространства. Однако, в конечном счете, работа не позволяет утверждать, что какая-либо существующая система ИИ является сильным кандидатом на сознание — по крайней мере, пока. 26.08.2023 |
Net&IT
Patterns: Детский зрительный опыт поможет усовершенствовать компьютерное зрение | |
Новый подход к обучению систем искусствен... |
ИИ-платформа для анализа изображений поможет развивать исследования во всем мире | |
Группа исследователей из Института Гульбе... |
Инженеры воссоздали голопалубу Star Trek с помощью ChatGPT и видеоигр | |
В сериале Звездный путь: Следующее поколение к... |
IC: Исследователи тестируют биологическую безвредность нейроморфной сети | |
Биологический мозг, в особенности человеч... |
Science: Аналоговые вычисления дают решать сложные уравнения и экономят энергию | |
Группа исследователей, включая инженеров Масса... |
В 40% случаев люди ошибочно называют сгенерированное фото человека реальным | |
Если вам недавно было трудно понять, явля... |
Physical Review X: Сеть квантовых датчиков повышает точность измерений | |
Квантовые системы, используемые в квантов... |
Scientific Reports: ИИ показал больший творческий потенциал, чем человек | |
Еще один балл в пользу искусственного инт... |
Крошечную метку на замену RFID сделали еще надежнее | |
Несколько лет назад исследователи Массачу... |
Привыкнув доверять, люди не поймут, когда ИИ начнет манипулировать | |
Согласно обширному обзору, в настоящее вр... |
Умные серьги с низким энергопотреблением будут измерять температуру по мочке уха | |
Умные аксессуары становятся все более рас... |
Для борьбы с бешенством разработали приложение для распознавания собачьих морд | |
Новое приложение для распознавания собачь... |
Генеративный ИИ помогает ученым объяснить человеческую память и воображение | |
Последние достижения в области генеративн... |
Ученые приблизились к более легким и гибким оптоэлектронным устройствам | |
Органические оптоэлектронные устройства, такие... |
ChatGPT перелопатил почти весь интернет, но пока не научился рассуждать | |
Языковые модели ИИ переживают бум. В ... |
Если сотрудникам скорой помощи поможет ИИ, они смогут спасать больше жизней | |
Чтобы определить, насколько серьезно пострадал... |
Беспроводная система отслеживания улучшит впечатления от расширенной реальности | |
Новая технология, разработанная инженерами Кал... |
PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить | |
Атанасиос С. Фокас рассматривает актуальный во... |
Nature: ИИ генерирует белки с исключительной прочностью связывания | |
В новом исследовании, опубликованном 18 декабр... |
Nature Computational Science: ИИ может предсказывать события в жизни людей | |
Искусственный интеллект, разработанный для&nbs... |
Разработан фреймворк ИИ для определения новых показаний к применению лекарств | |
Ученые из компании Klick Applied Sciences... |
Искусственный интеллект отлично справляется с имитацией, но не с инновациями | |
Системы искусственного интеллекта часто изобра... |
Nature Electronics: Изменение памяти дает новые вычислительные возможности | |
Ученые Рочестерского университета разработали ... |
Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта | |
Многофункциональные компьютерные чипы эволюцио... |
Началась регистрация на конкурс «Битва искусственных интеллектов» | |
Стартовал отборочный этап Международного техно... |
Наступает новая эра творческого партнерства в эпоху генеративного ИИ | |
Последние достижения в области генеративн... |
Ученые разрабатывают инструменты для использования ИИ в юридическом образовании | |
В то время как многие с опаской... |
Создан метод тонкой настройки модели ИИ на устройствах с ограниченными ресурсами | |
Персонализированные модели глубокого обучения ... |
Новая уязвимость процессора подвергает опасности виртуальные машины | |
В области облачных вычислений, то есть до... |
Разработан новый квантовый подход к безопасности облачных хранилищ данных | |
Распределенные облачные хранилища —... |