Разработчикам генеративных моделей ИИ грозят судебные иски

ChatGPT появилась на рынке всего полгода назад, и сегодня многие крупные компании уже используют технологию генеративного ИИ в своей работе или разрабатывают продукты на ее основе.

Ранее машинным моделям для обучения предоставлялись большие объемы данных, созданные людьми, включая книги, статьи и фотографии. Но с развитием ИИ создаваемый искусственным «разумом» контент становится все более распространенным.

Исследователи из Британии и Канады опубликовали статью в журнале arXiv, где описали проблемы, которые могут возникнуть в будущем, когда генеративные модели ИИ начнут использовать материалы, созданные другими моделями. Ученые предупреждают, что использование сгенерированных моделями данных для обучения приведет к постепенному вырождению моделей. ИИ начнет забывать настоящие распределения данных, и со временем модели станут менее адекватными и начнут допускать ошибки.

В докладе отмечаются задачи, которые возникают при обучении генеративных моделей типа «текст-текст» и „изображение-изображение“. Авторы статьи подчеркивают, что использование данных, созданных другими моделями, неизбежно приведет к коллапсу моделей.

Ученые предлагают несколько решений этой проблемы, которые потребуют механизма массовой маркировки и серьезных усилий со стороны производителей контента или ИИ-компаний по разведению материалов, созданных человеком и машиной. Вместе с тем, специалисты считают, что в будущем многие компании, создающие ИИ-модели, могут стать уязвимы для судебных исков в связи с требованием раскрытия наборов обучающих данных.

21.06.2023


Подписаться в Telegram



Net&IT

Инженеры воссоздали голопалубу Star Trek с помощью ChatGPT и видеоигр
Инженеры воссоздали голопалубу Star Trek с помощью ChatGPT и видеоигр

В сериале Звездный путь: Следующее поколение к...

Physical Review X: Сеть квантовых датчиков повышает точность измерений
Physical Review X: Сеть квантовых датчиков повышает точность измерений

Квантовые системы, используемые в квантов...

Scientific Reports: ИИ показал больший творческий потенциал, чем человек
Scientific Reports: ИИ показал больший творческий потенциал, чем человек

Еще один балл в пользу искусственного инт...

Крошечную метку на замену RFID сделали еще надежнее
Крошечную метку на замену RFID сделали еще надежнее

Несколько лет назад исследователи Массачу...

Ученые приблизились к более легким и гибким оптоэлектронным устройствам
Ученые приблизились к более легким и гибким оптоэлектронным устройствам

Органические оптоэлектронные устройства, такие...

PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить
PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить

Атанасиос С. Фокас рассматривает актуальный во...

Nature: ИИ генерирует белки с исключительной прочностью связывания
Nature: ИИ генерирует белки с исключительной прочностью связывания

В новом исследовании, опубликованном 18 декабр...

Nature Computational Science: ИИ может предсказывать события в жизни людей
Nature Computational Science: ИИ может предсказывать события в жизни людей

Искусственный интеллект, разработанный для&nbs...

Nature Electronics: Изменение памяти дает новые вычислительные возможности
Nature Electronics: Изменение памяти дает новые вычислительные возможности

Ученые Рочестерского университета разработали ...

Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта
Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта

Многофункциональные компьютерные чипы эволюцио...

Началась регистрация на конкурс «Битва искусственных интеллектов»
Началась регистрация на конкурс «Битва искусственных интеллектов»

Стартовал отборочный этап Международного техно...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

Heart Rhythm: Ученые рапортуют об отличных итогах лечения фибрилляции предсердий
Heart Rhythm: Ученые рапортуют об отличных итогах лечения фибрилляции предсердий
ИИ-платформа для анализа изображений поможет развивать исследования во всем мире
ИИ-платформа для анализа изображений поможет развивать исследования во всем мире
Nature Neuroscience: Ученые доказали, что терпение приносит свои плоды
Nature Neuroscience: Ученые доказали, что терпение приносит свои плоды
Познакомьтесь со странной амфибией, которая выкармливает своих детенышей молоком
Познакомьтесь со странной амфибией, которая выкармливает своих детенышей молоком
Climate Dynamics: Вот как условия на суше влияют на муссонный климат Азии
Climate Dynamics: Вот как условия на суше влияют на муссонный климат Азии
В 40% случаев люди ошибочно называют сгенерированное фото человека реальным
В 40% случаев люди ошибочно называют сгенерированное фото человека реальным
Nature Communications: Открыто революционное явление в жидких кристаллах
Nature Communications: Открыто революционное явление в жидких кристаллах
BioDesign Research: Для производства каротиноидов разработали специальные дрожжи
BioDesign Research: Для производства каротиноидов разработали специальные дрожжи
Nature Communications: В мигрирующих нейронах найден конус роста
Nature Communications: В мигрирующих нейронах найден конус роста
Current Biology: Исследование брачного поведения показывает эволюцию влечения
Current Biology: Исследование брачного поведения показывает эволюцию влечения
Scientific Reports: Реакция на происходящее влияет на понимание будущих событий
Scientific Reports: Реакция на происходящее влияет на понимание будущих событий
JRSNZ: Ветряные электростанции могут компенсировать выбросы за 2 года
JRSNZ: Ветряные электростанции могут компенсировать выбросы за 2 года
Science Advances: Мозг формирует эмоции независимо от органов чувств
Science Advances: Мозг формирует эмоции независимо от органов чувств
Nature: Международная группа ученых решает сложную физическую задачу
Nature: Международная группа ученых решает сложную физическую задачу
Печатный полимер позволяет изучить хиральность и спины при комнатной температуре
Печатный полимер позволяет изучить хиральность и спины при комнатной температуре

Новости компаний, релизы

Треть работодателей тратят на адаптацию одного нового сотрудника до 100 тысяч рублей
Палеонтолог СПбГУ описал новый вид динозавров-бегунов из Кемеровской области
Ученые ТПУ нашли решение фундаментальной проблемы ионной имплантации
Ученые СПбГУ разработали метод, увеличивающий эффективность добычи углеводородов
Президенту Узбекистана презентовали вертолет Ансат