Даже искусственный интеллект можно взломать.

Искусственный интеллект все быстрее входит в обычную жизнь людей. Злоумышленники тоже не отстают, находя способы его перепрограммирования.

Как только искусственный интеллект начал применяться на практике, его тут же пытаются заставить работать в пользу мошенников. Обмануть пытаются двумя способами – когда используются физическими устройствами и программные средства.

Физические средства, как показывает практика, проще. И в случае применения надежнее. Никакая умная система распознавания лиц не устоит против компактных лазеров, которыми засвечивали камеры видеонаблюдения в Гонконге. Также остаться невидимым для системы возможно с помощью бликующей одежды или масок.

Системы искажения речи, которые не позволяют распознать говорящего, средства трехмерного сканирования и печати, нагревательные элементы для биометрических систем, контролирующих температуру тела, относятся к аппаратным решениям.

Программные средства мошенничества против ИИ систем очень многообразны. Очевидно, что искусственный интеллект учится не пониманию происходящего, а выдаче правильных ответов. Можно изменять правильные картинки на другие. И в итоге правильно работающий механизм распознавания начинает путаться и считать медведя волком.

Такую подмену конечно не всякий сможет реализовать . Зато если она продумана и осуществлена, то такую замену очень трудно выявить.

Принимаемые системой решения в данный момент невозможно проверить, так как методы еще в разработке. В теории возможна ситуация, когда искусственный интеллект будет правильно функционировать всегда, кроме случаев, когда получит сигнал, заложенный когда-то мошенниками.

Если честно, научиться обманывать ИИ систему можно и удаленно-если известны методы ее обучения. В данном случае создается аналогичная модель и ищется слабое место в программе. Впрочем, такое тестирование выполняют и сами владельцы ИИ.

Там, где искусственный интеллект уже применяют или только готовятся применить ощутимо встает проблема взлома. Системы искусственного интеллекта могут быть связаны с навигационными системами владельцев автомобилей. Сигналы этой системы можно выключить и тогда авто будет невидимым для устройства, отслеживающего перемещение.

Если нанести на асфальт дополнительную разметку либо внести небольшие изменения в дорожные знаки можно легко запутать датчики автономного автомобиля. Человеку не составит никакого труда разобраться с этим, а машина с искусственным интеллектом почему-то воспринимает их как другие указатели.

В ближайшее время обеспечение контроля решений  искуственного интеллекта должна будет стать составной частью обучения по информационной безопасности.

 

Даже искусственный интеллект можно взломать.В последнее время всё большее значение представляет правовая безопасность сайта. Нарушения закона "О персональных данных" или авторских прав может привести к штрафам в несколько сотен тысяч рублей. Проверить ваш сайт и сделать документацию можно здесь.

Оставьте комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *