ChatGPT перелопатил почти весь интернет, но пока не научился рассуждать

Языковые модели ИИ переживают бум. В настоящее время лидером является ChatGPT, который может делать все — от сдачи экзамена на адвоката, создания кадровой политики до написания сценария фильма.

Но эта и другие модели все еще не могут рассуждать как человек. Доктор Веред Шварц, доцент кафедры информатики UBC, и студентка магистратуры Мехар Бхатия объясняют, почему рассуждения могут стать следующим шагом в развитии ИИ и почему важно обучать эти модели, используя разнообразные наборы данных из разных культур.

Что такое «рассуждения» для ИИ

Шварц: Большие языковые модели, такие как ChatGPT, обучаются путем чтения миллионов документов, по сути, всего интернета, и распознавания закономерностей для получения информации. Это означает, что они могут предоставлять информацию только о тех вещах, которые задокументированы в Интернете. С другой стороны, люди способны рассуждать. Мы используем логику и здравый смысл, чтобы понять смысл, выходящий за рамки сказанного в явном виде.

Бхатия: Способности рассуждать мы приобретаем с рождения. Например, мы знаем, что нельзя включать блендер в 2 часа ночи, потому что это всех разбудит. Нас этому не учат, но это то, что вы понимаете, исходя из ситуации, обстановки и вашего окружения. В ближайшем будущем многие наши задачи будут решать модели искусственного интеллекта. Мы не можем вписать в этих роботов все правила здравого смысла, поэтому мы хотим, чтобы они понимали, как правильно поступить в конкретном контексте.

Шварц: Добавление здравого смысла к существующим моделям, таким как ChatGPT, поможет им давать более точные ответы и, таким образом, создавать более мощные инструменты для использования людьми. Современные модели ИИ в той или иной форме демонстрируют рассуждения на основе здравого смысла. Например, если вы спросите последнюю версию ChatGPT о детском и взрослом пироге с грязью, она сможет правильно отличить десерт от лица, полного грязи, основываясь на контексте.

Где языковые модели ИИ дают сбой

Шварц: Рассуждения на основе здравого смысла в моделях ИИ далеки от совершенства. Мы сможем добиться таких результатов, только тренируясь на огромных объемах данных. Людям все равно придется вмешиваться и обучать модели, в том числе предоставляя правильные данные.

Например, мы знаем, что англоязычные тексты в Интернете в основном написаны в Северной Америке, поэтому англоязычные модели, которые используются чаще всего, как правило, имеют североамериканский уклон и рискуют либо не узнать о концепциях других культур, либо увековечить стереотипы. В недавней работе мы обнаружили, что обучение модели рассуждений на основе здравого смысла на данных из разных культур, включая Индию, Нигерию и Южную Корею, привело к получению более точных, учитывающих культурные особенности ответов.

Бхатия: Один из примеров — показать модели изображение женщины из Сомали, делающей татуировку хной, и спросить, зачем ей это нужно. При обучении с использованием культурно разнообразных данных модель правильно предположила, что она собирается выйти замуж, тогда как раньше она говорила, что хочет купить хну.

Шварц: Мы также обнаружили примеры того, что ChatGPT не хватает культурной осведомленности. В гипотетической ситуации, когда пара дала четыре процента чаевых в ресторане в Испании, модель предположила, что они, возможно, были недовольны обслуживанием. Это предполагает, что в Испании действует североамериканская культура чаевых, в то время как на самом деле чаевые в этой стране не распространены, и четыре процента чаевых, скорее всего, означают исключительное обслуживание.

Почему нам необходимо обеспечить более широкое применение ИИ

Шварц: Языковые модели распространены повсеместно. Если эти модели предполагают набор ценностей и норм, связанных с западной или североамериканской культурой, их информация о людях из других культур может быть неточной и дискриминационной. Другая проблема заключается в том, что людям из разных слоев общества, использующим продукты на основе англоязычных моделей, придется адаптировать свои данные к североамериканским нормам, иначе они могут получить неоптимальную производительность.

Бхатия: Мы хотим, чтобы этими инструментами могли пользоваться все, а не только одна группа людей. Канада — культурно разнообразная страна, и мы должны быть уверены, что инструменты ИИ, которые обеспечивают нашу жизнь, не отражают только одну культуру и ее нормы. Наши текущие исследования направлены на обеспечение инклюзивности, разнообразия и культурной восприимчивости при разработке и внедрении технологий ИИ.

11.01.2024


Подписаться в Telegram



Net&IT

App.System Innovation: Управлять умными колонками оказалось слишком сложно
App.System Innovation: Управлять умными колонками оказалось слишком сложно

Благодаря удобству и возможности управлят...

Инженеры воссоздали голопалубу Star Trek с помощью ChatGPT и видеоигр
Инженеры воссоздали голопалубу Star Trek с помощью ChatGPT и видеоигр

В сериале Звездный путь: Следующее поколение к...

Physical Review X: Сеть квантовых датчиков повышает точность измерений
Physical Review X: Сеть квантовых датчиков повышает точность измерений

Квантовые системы, используемые в квантов...

Scientific Reports: ИИ показал больший творческий потенциал, чем человек
Scientific Reports: ИИ показал больший творческий потенциал, чем человек

Еще один балл в пользу искусственного инт...

Крошечную метку на замену RFID сделали еще надежнее
Крошечную метку на замену RFID сделали еще надежнее

Несколько лет назад исследователи Массачу...

Ученые приблизились к более легким и гибким оптоэлектронным устройствам
Ученые приблизились к более легким и гибким оптоэлектронным устройствам

Органические оптоэлектронные устройства, такие...

PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить
PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить

Атанасиос С. Фокас рассматривает актуальный во...

Nature: ИИ генерирует белки с исключительной прочностью связывания
Nature: ИИ генерирует белки с исключительной прочностью связывания

В новом исследовании, опубликованном 18 декабр...

Nature Computational Science: ИИ может предсказывать события в жизни людей
Nature Computational Science: ИИ может предсказывать события в жизни людей

Искусственный интеллект, разработанный для&nbs...

Nature Electronics: Изменение памяти дает новые вычислительные возможности
Nature Electronics: Изменение памяти дает новые вычислительные возможности

Ученые Рочестерского университета разработали ...

Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта
Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта

Многофункциональные компьютерные чипы эволюцио...

Началась регистрация на конкурс «Битва искусственных интеллектов»
Началась регистрация на конкурс «Битва искусственных интеллектов»

Стартовал отборочный этап Международного техно...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

Nature: Поражение лёгких при COVID долго не проходит из-за реакции иммунитета
Nature: Поражение лёгких при COVID долго не проходит из-за реакции иммунитета
JACS: Ученые выяснили, как повысить эффективность фотокатализа
JACS: Ученые выяснили, как повысить эффективность фотокатализа
В ПИШ КАИ создали «мост» к цифровому двойнику композитных преформ
В ПИШ КАИ создали «мост» к цифровому двойнику композитных преформ
Nature Energy: Создана мембрана для удаления CO2, работающая на влажности
Nature Energy: Создана мембрана для удаления CO2, работающая на влажности
Nature Communications: Доказана перспективность универсальной вакцины от гриппа
Nature Communications: Доказана перспективность универсальной вакцины от гриппа
PRC: Ядерная структура титана-48 меняется при наблюдении с разного расстояния
PRC: Ядерная структура титана-48 меняется при наблюдении с разного расстояния
PRSBBS: Несколько видов муравьев выработали одинаковые отношения с деревьями
PRSBBS: Несколько видов муравьев выработали одинаковые отношения с деревьями
Кристаллографы СПбГУ раскрыли структуру минерала, открытого более 70 лет назад
Кристаллографы СПбГУ раскрыли структуру минерала, открытого более 70 лет назад
В МТУСИ разработали систему отслеживания модели человека во время фитнеса
В МТУСИ разработали систему отслеживания модели человека во время фитнеса
Учёные КФУ разработали новые материалы для металл-ионных аккумуляторов
Учёные КФУ разработали новые материалы для металл-ионных аккумуляторов
Студенты СевГУ предложили способ найти сбежавшую собаку при помощи спутника
Студенты СевГУ предложили способ найти сбежавшую собаку при помощи спутника
Московский Политех открывает «Книгу будущего» для развития инновационных изданий
Московский Политех открывает «Книгу будущего» для развития инновационных изданий
Эффективность светодиодов для дополненной реальности выросла вдвое
Эффективность светодиодов для дополненной реальности выросла вдвое
Advanced Materials: Гидрогелевое средство контрацепции сможет лечить эндометриоз
Advanced Materials: Гидрогелевое средство контрацепции сможет лечить эндометриоз
Nature Physics: Новый коллайдер стал ближе с технологией маршалинга мюонов
Nature Physics: Новый коллайдер стал ближе с технологией маршалинга мюонов

Новости компаний, релизы

Московский вуз готовит профессионалов для защиты учебных заведений
Ведущие игроки агрорынка представят новинки на «Дне поля» в Агробиотехнопарке Казанского ГАУ
Московский Политех и ведущие российские компании запускают 79 практико-ориентированных образовательных программ
Студенты Университета МИСИС выиграли 2.8 млн рублей в хакатоне «Лидеры цифровой трансформации»
U-NOVUS 2024: технологическое развитие России немыслимо без университетов и инвестиций бизнеса в техпред