В здоровой конкуренции – здоровый ИИ: почему нейросети ошибаются

Посмотрите, каких успехов достиг искусственный интеллект всего-то за несколько лет! Как много он уже умеет, как широко мы его применяем! Впрочем, в основе всего, что он способен делать и в чём помогает нам, пользователям, лежат, в общем-то, очень схожие алгоритмы. И одна из главных и общих для всех типов ИИ проблем состоит в том, что он… может ошибаться.

Что поможет улучшить его работу? Ответ прост: разнообразие. Точнее, основанный на нём древний принцип развития цивилизации – конкуренция. Но обо всём по порядку. Вы, конечно, видели огрехи ИИ в сгенерированных им картинках или видеороликах. Известно, что нейросеть может пририсовать человеку шестой палец, или сделать ему неестественную походку, или заставить его «проходить» сквозь предметы. А уж как ИИ, бывает, путается в чатах с пользователем и при поиске в интернете! То придумает на пустом месте несуществующие факты или имена, то совет выдаст – абсурднее не придумаешь. Будто бредит. Для таких фантазий ИИ уже и принятый термин есть – галлюцинации.

В целом математикам понятно, почему такое происходит, но операции, которые предотвращали бы оплошности ИИ, в разы усложняют модели и увеличивают время их работы. То есть за время, которое будет потрачено на улучшенную генерацию, текущая модель нагенерирует 20 или 40 картинок. И среди них наверняка найдутся реалистичные, без грубых ошибок. Хорошо, тогда кто будет отсортировывать годные картинки от плохих? Можно посадить человека. Так делают при разработке игр, где сгенерированные нейросетью сцены отсматриваются людьми и ошибочные выкидываются.

Впрочем, создание несуществующих и при этом достоверных лиц, скажем для рекламных роликов или персонажей в компьютерных играх, – задача куда более сложная. Проверка таких изображений вручную просто невозможна.

Тогда так – можно ли упростить этот процесс? А что, если поставить ещё один ИИ, обученный искать ошибки в искусственных картинках? Такую технологию предложил американский учёный Ян Гудфеллоу. Назвали её GAN (Generative Adversarial Network), по-русски – «генеративно-состязательная сеть». Технология GAN приобрела широкую популярность прежде всего в области генерации фотореалистичных изображений. Состоит GAN-сеть из двух сетей. Первая называется генеративной, её задача – создавать картинки, смешивая в них элементы большого количества уже существующих изображений. А вторая – дискриминационная, работающая по принципу различения. Призвана она находить ошибки в работе первой. Если система построена правильно, обе сети начинают обучать друг друга и со временем качество их работы растёт. Вот так в мире нейросетей и искусственного интеллекта воплотили идею состязательности – ту самую, которая веками двигает вперёд науку и технику в человеческом сообществе.

Текст: Мирослав АНДРУЩЕНКО