Обрезка изображений — важная задача в разных областях: от социальных сетей и электронной коммерции до компьютерного зрения. Обрезка помогает сохранить качество изображения, не меняя его размер и не расходуя вычислительные ресурсы. Она также полезна, когда изображение должно соответствовать определённому соотношению сторон (например, в миниатюрах). За последние десять лет инженеры разработали различные модели машинного обучения для автоматической обрезки изображений. Эти модели сохраняют наиболее важные части входного изображения. Модели машинного обучения могут ошибаться и быть необъективными, что иногда приводит пользователей к юридическим проблемам. Например, в 2020 году компания X (бывший Twitter) получила иск из-за того, что её функция автоматического кадрирования скрыла информацию об авторских правах на изображении. Чтобы избежать подобных проблем, нужно понять, почему модели машинного обучения для обрезки изображений работают неудачно. Исследователи из Университета Дошиша (Япония) разработали новые методы создания сложных примеров для задачи обрезки изображений. Они вносят незаметные искажения в изображение, чтобы обмануть модель и заставить её обрезать нужные области, даже если изначально она этого не планировала. Докторант Масатомо Йошида, ведущий исследователь, объясняет мотивацию работы так:
В исследовании участвовали Масатомо Йошида и Харуто Намура из Высшей школы науки и техники Университета Дошиша (Киото, Япония), а также Масахиро Окуда с факультета науки и техники того же университета. Исследователи разработали два подхода для создания негативных примеров: «белый ящик» и „чёрный ящик“.
Методы «чёрного ящика» более применимы в реальных ситуациях и важны для кибербезопасности. Аспирант Харуто Намура, один из участников исследования, рассказал, что оба подхода дают хорошие результаты.
Это исследование — шаг вперёд в создании надёжных систем искусственного интеллекта. Оно важно для доверия общества к таким системам. Повышение эффективности генерации состязательных примеров для обрезки изображений поможет исследованиям в области ИИ и решению насущных проблем.
Результаты опубликованы в издании IEEE Access. 01.08.2024 |
Net&IT
Rice: Полидактилия и другие странности анатомии от ИИ останутся в прошлом | |
Генеративный искусственный интеллект часто оши... |
IEEE TSP: Низкоорбитальные спутники можно сделать высокопроизводительными | |
Спутники на низкой орбите смогут обеспечи... |
Выпускница ЛЭТИ разработала ПО для подбора сотрудников в соцсетях | |
Приложение на основе нейросети поможет из... |
FBINF: Искать триггеры рака стало проще — на помощь пришел компьютерный алгоритм | |
Компьютерный алгоритм помогает находить генети... |
Разработан метод улучшения изображения, полученного при низкой освещенности | |
С развитием интеллектуальной эры все ... |
Nature Machine Intelligence: Генеративный ИИ берется за прогнозы в онкологии | |
Учёные из университетов Лозанны и Бе... |
Разработчик рассказал, когда искусственный интеллект превзойдет человеческий | |
Аналитик Эйтан Майкл Азофф считает, что л... |
JID: Новый анализ волос с помощью ИИ улучшит исследование здоровья | |
Новое приложение с искусственным интеллек... |
В ЛЭТИ разработали ПО для поисковых и спасательных дронов с компьютерным зрением | |
Учёные разрабатывают ПО, которое позволит дрон... |
В Киберателье УГНТУ создали «умную» одежду для работников нефтегазовой отрасли | |
Куртки с датчиками, изготовленные в ... |
В МТУСИ предложили усовершенствовать процессы SAST | |
Миллионы людей по всему миру ежедневно по... |
Radiology: ChatGPT не справился с интерпретацией радиологических снимков | |
Исследователи выяснили, что ChatGPT-4 Vis... |
Лабораторию цифровых двойников геосистем открыли в СПбГУТ | |
В Санкт-Петербургском университете телекоммуни... |
PNAS: Появилось новое решение одной из 10 самых известных проблем в информатике | |
Когда вы вызываете машину через приложени... |
Nature: Эксперимент провалился — ИИ не способен проводить лабораторные работы | |
Большая языковая модель может многое: читать л... |
IJHCS: Пожилые хуже справляются с простыми задачами на компьютере | |
Исследование показало, что интеллект игра... |
MIT: Данным для обучения больших языковых моделей часто не хватает прозрачности | |
Исследователи создали простой инструмент, кото... |
Раскрыт потенциал связи 6G с помощью нового поляризационного мультиплексора | |
Терагерцовая связь — это новый... |
ИИ помогает контролировать землепользование и пресекать самострой в Москве | |
С начала года в столице с помощью ци... |
Autism: Игра Dungeons & Dragons помогает аутистам обрести уверенность в себе | |
Dungeons and Dragons — популярная р... |
Nature: Лестничные молекулы улучшают проводимость в молекулярных соединениях | |
Размеры электронных устройств становятся всё&n... |
MIT: Создан алгоритм квантового компьютера для взлома криптосистемы RSA | |
Исследователи предлагают новый способ создания... |
Science: ИИ решает одну из самых сложных задач в квантовой химии | |
Учёные из Имперского колледжа Лондона и&n... |
CRPS: Гидрогель научили играть в пинг-понг, и он делает это как живой | |
Команда под руководством доктора Йошикацу... |
European Radiology: ИИ может заменить ординатора, но не опытного врача | |
В радиологии для интерпретации результато... |
Магистрант МАИ обучил нейронную сеть оптимизировать производство | |
Студент МАИ Семён Беляев предложил способ... |
Nature Reviews Materials: В поиске полимера будущего поможет ИИ | |
Нейлон, тефлон, кевлар — это л... |
Цифровой полигон МФТИ ускорит разработку БПЛА в России | |
Сотрудники передовой инженерной школы МФТИ пре... |
За 4 месяца модель ИИ научили исследовать урожайность полей | |
Модель искусственного интеллекта, созданная вы... |
NPJ Digital medicine: Мобильные приложения действительно держат нас в тонусе | |
Мобильные приложения, веб-сайты и текстов... |