В последние месяцы российские военные грузовики на Украине начали щеголять
новой броской цветовой схемой из ярких черно-белых полос. Как камуфляж, он
малоэффективен против наблюдателей-людей. Но он и не предназначен для обмана
биологических глаз. Его цель — сбить с толку системы машинного зрения,
установленные на украинских беспилотниках, которые носятся по полям сражений в
поисках добычи.
Полосы напоминают «ослепляющий камуфляж», использовавшийся Королевским флотом
в Первой мировой войне. Но если ослепляющий камуфляж предназначался для того,
чтобы скрыть силуэт корабля, затрудняя определение его скорости и курса, то
новый вариант призван обмануть машины, заставив их думать, что грузовик на
самом деле вовсе не грузовик.
Машинное зрение основано на сопоставлении образов. Модель обучается путем
предъявления ей изображений, некоторые из которых содержат грузовики (или
танки, или самолеты), а некоторые — нет. На протяжении миллиардов изображений
компьютер выводит правила, которые позволяют ему идентифицировать то, чему его
хотят научить обучающие модели. Поскольку грузовики с полосатой окраской вряд
ли появятся в обучающих данных, говорит Тодд Хамфриз, инженер из Техасского
университета в Остине, ИИ , столкнувшись с таким грузовиком в реальном мире,
может не осознать, на что он смотрит.
Компьютеры часто полагаются на очень специфические признаки для распознавания
объекта. Это приводит к проблеме, известной как «хрупкость», когда небольшие
вариации могут вызывать странные ошибки классификации.
«Примеры-противодействия», разработанные для использования особенностей
компьютерного зрения, существуют уже много лет. Один из них, разработанный в
Массачусетском технологическом институте в 2017 году, представлял собой
пластиковую черепаху. Введенный в заблуждение рисунком на ее панцире,
компьютер уверенно классифицировал ее как винтовку. В другом проекте
исследователи создали наклейки, которые, будучи прикрепленными к дорогам,
заставляли программное обеспечение автономного вождения Tesla выезжать на
встречную полосу.
Доктор Хамфриз говорит, что усилия по противодействию машинному зрению в
конфликте на Украине работают по тому же принципу: ожидаемые особенности
скрываются неожиданными. На припаркованных российских самолетах были замечены
ряды старых шин на крыльях, чтобы запутать программное обеспечение для
сопоставления изображений на беспилотниках. Некоторые российские беспилотники
теперь также имеют собственную ослепляющую камуфляжную окраску,
предположительно, чтобы затруднить их идентификацию украинскими
беспилотниками-перехватчиками.
Вероятно, такая тактика станет более распространенной. В настоящее время
большинство боевых дронов по-прежнему управляются дистанционно
оператором-человеком, которого вряд ли удастся обмануть маркировкой. Но по
мере распространения дронов — Украина планирует произвести 10 миллионов в этом
году — и совершенствования технологий, искусственный интеллект возьмет на себя
большую часть работы.
Вероятным результатом станет гонка вооружений, в которой все более совершенные
системы машинного зрения будут противостоять все более изощренным методам их
обмана. Преимущество от любого конкретного камуфляжного рисунка, скорее всего,
будет временным. В конце концов, как только грузовики с полосатой окраской
станут достаточно распространенными, они начнут появляться в обучающих данных,
и модели начнут распознавать их такими, какие они есть на самом деле.
Источник
Комментарии
Отправить комментарий