Искусственный интеллект все быстрее входит в обычную жизнь людей. Злоумышленники тоже не отстают, находя способы его перепрограммирования.
Как только искусственный интеллект начал применяться на практике, его тут же пытаются заставить работать в пользу мошенников. Обмануть пытаются двумя способами – когда используются физическими устройствами и программные средства.
Физические средства, как показывает практика, проще. И в случае применения надежнее. Никакая умная система распознавания лиц не устоит против компактных лазеров, которыми засвечивали камеры видеонаблюдения в Гонконге. Также остаться невидимым для системы возможно с помощью бликующей одежды или масок.
Системы искажения речи, которые не позволяют распознать говорящего, средства трехмерного сканирования и печати, нагревательные элементы для биометрических систем, контролирующих температуру тела, относятся к аппаратным решениям.
Программные средства мошенничества против ИИ систем очень многообразны. Очевидно, что искусственный интеллект учится не пониманию происходящего, а выдаче правильных ответов. Можно изменять правильные картинки на другие. И в итоге правильно работающий механизм распознавания начинает путаться и считать медведя волком.
Такую подмену конечно не всякий сможет реализовать . Зато если она продумана и осуществлена, то такую замену очень трудно выявить.
Принимаемые системой решения в данный момент невозможно проверить, так как методы еще в разработке. В теории возможна ситуация, когда искусственный интеллект будет правильно функционировать всегда, кроме случаев, когда получит сигнал, заложенный когда-то мошенниками.
Если честно, научиться обманывать ИИ систему можно и удаленно-если известны методы ее обучения. В данном случае создается аналогичная модель и ищется слабое место в программе. Впрочем, такое тестирование выполняют и сами владельцы ИИ.
Там, где искусственный интеллект уже применяют или только готовятся применить ощутимо встает проблема взлома. Системы искусственного интеллекта могут быть связаны с навигационными системами владельцев автомобилей. Сигналы этой системы можно выключить и тогда авто будет невидимым для устройства, отслеживающего перемещение.
Если нанести на асфальт дополнительную разметку либо внести небольшие изменения в дорожные знаки можно легко запутать датчики автономного автомобиля. Человеку не составит никакого труда разобраться с этим, а машина с искусственным интеллектом почему-то воспринимает их как другие указатели.
В ближайшее время обеспечение контроля решений искуственного интеллекта должна будет стать составной частью обучения по информационной безопасности.
В последнее время всё большее значение представляет правовая безопасность сайта. Нарушения закона "О персональных данных" или авторских прав может привести к штрафам в несколько сотен тысяч рублей. Проверить ваш сайт и сделать документацию можно здесь.
