американские удары по иранским школам в Минабе и Ламерде, совокупно приведшие к гибели 177 и ранению ещё 195 человек, большинство из которых были детьми. В том случае алгоритм ИИ выдал устаревшие данные, говорящие о том, что здания школ относятся к инфраструктуре соседних военных баз, а операторы либо не успели перепроверить информацию из-за той самой спешки в цепочке принятия решений, либо не стали этого делать, полагаясь на доверие машинному алгоритму. Из безобидных, но забавных примеров можно вспомнить удар ВВС США по выброшенной пустой таре для авиабомб в аэропорту Бушера. Судя по спутниковым снимкам, она валялась на этом месте долгие годы, пока алгоритм не распознал в ней военную цель и не отдал приказ разбомбить её. Подобные бездумные удары приводят уже не к жертвам, а к излишнему расходу боеприпасов, что ИИ, наоборот, должен сокращать.
И здесь мы приходим к финальной проблеме, связанной с размыванием ответственности за допущенные ошибки. Кто виноват в ошибочно поражённой цели — алгоритм, выдавший её оператору, сам оператор, принявший решение о поражении по полученным от алгоритма данным, или вовсе разработчик этого алгоритма, допустивший просчёты в его написании? Простого ответа на это сейчас нет.
В итоге есть большие опасения, что скачкообразное внедрение новых ИИ-технологий в военную сферу, подгоняемое конкуренцией США с Россией и Китаем, будет приводить ко всё большему количеству ошибок, ведь Пентагон прямо отмечает, что его ключевой стратегией сейчас является скорость.
Точка зрения автора может не совпадать с позицией редакции
