Искусственный интеллект отлично справляется с имитацией, но не с инновациями

Системы искусственного интеллекта часто изображаются как разумные агенты, готовые затмить человеческий разум. Однако, как выяснили исследователи из Калифорнийского университета в Беркли, ИИ не хватает такой важной человеческой способности, как инновации.

В то время как дети и взрослые могут решать проблемы, находя новое применение повседневным предметам, системам ИИ часто не хватает способности взглянуть на инструменты по-новому, говорится в выводах, опубликованных в Perspectives on Psychological Science, журнале Ассоциации психологических наук.

Языковые модели ИИ, такие как ChatGPT, пассивно обучаются на наборах данных, содержащих миллиарды слов и изображений, созданных людьми. Это позволяет системам ИИ функционировать в качестве «культурной технологии», подобной письменности, которая может обобщать существующие знания, пояснила в интервью Юнис Иу, соавтор статьи. Но в отличие от людей, они испытывают трудности, когда дело доходит до инноваций в области этих идей, сказала она.

Даже маленькие дети могут давать разумные ответы на некоторые вопросы, на что [модели изучения языка] не способны, — сказала Йиу.

Вместо того чтобы рассматривать эти системы ИИ как интеллектуальные агенты, подобные нам самим, мы можем думать о них как о новой форме библиотеки или поисковой системы. Они эффективно обобщают и передают нам существующую культуру и базу знаний.

Иу и Элиза Косой вместе со своим научным руководителем и старшим автором статьи, психологом по вопросам развития Элисон Гопник, проверили, насколько способность систем искусственного интеллекта к подражанию и инновациям отличается от способности детей и взрослых. Они предложили 42 детям в возрасте от 3 до 7 лет и 30 взрослым текстовые описания повседневных объектов. В первой части эксперимента 88% детей и 84% взрослых смогли правильно определить, какие предметы будут «лучше всего» сочетаться с другими. Например, они ставили в пару компас с линейкой, а не с чайником.

На следующем этапе эксперимента 85% детей и 95% взрослых также смогли внести инновации в предполагаемое использование повседневных предметов для решения задач. Например, в одном из заданий участников спросили, как можно нарисовать окружность, не используя такой типичный инструмент, как компас. При выборе между похожим инструментом, таким как линейка, непохожим инструментом, таким как чайник с круглым дном, и не относящимся к делу инструментом, таким как плита, большинство участников выбрали чайник — концептуально непохожий инструмент, который, тем не менее, мог выполнять ту же функцию, что и компас, позволяя им нарисовать форму круга.

Когда Иу и его коллеги предоставили те же текстовые описания пяти большим языковым моделям, модели показали схожие с человеком результаты в задаче на имитацию: от 59% для модели с наихудшими показателями до 83% для модели с наилучшими показателями. Однако ответы ИИ на задание по инновациям были гораздо менее точными. Эффективные инструменты были выбраны от 8% случаев худшей моделью до 75% лучшей.

Дети могут придумать совершенно новые способы использования предметов, о которых они раньше не видели и не слышали, например, использовать дно чайника, чтобы нарисовать круг, — говорит Иу.

Большие модели гораздо труднее вызвать такую реакцию.

В другом эксперименте, отмечают исследователи, дети могли узнать, как работает новая машина, просто экспериментируя и исследуя ее. Но когда исследователи предоставили нескольким большим языковым моделям текстовые описания доказательств, полученных детьми, они не смогли сделать такие же выводы, вероятно, потому, что ответы не были явно включены в их обучающие данные, пишут Иу и коллеги.

Эти эксперименты показывают, что опора ИИ на статистическое предсказание лингвистических закономерностей недостаточна для открытия новой информации о мире, пишут Йиу и коллеги.

ИИ может помочь передать информацию, которая уже известна, но он не является новатором, — говорит Йиу.

Эти модели могут обобщить общепринятую мудрость, но они не могут расширять, создавать, изменять, отказываться, оценивать и улучшать общепринятую мудрость так, как это может делать молодой человек.

Однако разработка ИИ все еще находится на начальном этапе, и многое еще предстоит узнать о том, как расширить возможности обучения ИИ, говорит Иу. По ее словам, вдохновение от детского любознательного, активного и внутренне мотивированного подхода к обучению может помочь исследователям разработать новые системы ИИ, которые будут лучше подготовлены к изучению реального мира.

12.12.2023