Американские военные принимают "этические" принципы использования ИИ

Пентагон объявил в понедельник, что он принял "этические принципы" для использования искусственного интеллекта (ИИ) в военных действиях.

Ситуация состоит в том, что американские военные надеются ускорить развитие ИИ в условиях конфликта, одновременно завоевывая общественное доверие на фоне ряда противоречий, касающихся созвездия технологий.

ИИ-это стимулирующая технология. Таким образом, роботы, дроны и беспилотные средства являются примерами технологий, которые иногда используют ИИ на поле боя.

Каковы этические принципы?

Новые принципы призывают людей "проявлять надлежащий уровень рассудительности и осторожности" при развертывании и использовании систем искусственного интеллекта. В руководящих принципах также говорится о необходимости "явного, четко определенного использования технологии ИИ.

Решения, принимаемые автоматизированными системами, также должны быть "отслеживаемыми" и "управляемыми". "Это означает, что военные будут иметь "возможность отключать или деактивировать развернутые системы, которые демонстрируют непреднамеренное поведение."

До этих принципов американские военные руководящие принципы предусматривали только то, что человек должен быть вовлечен во все военные решения ИИ мера, известная как human in the loop.

Однако не все верят, что принципы сделают именно то, что они предлагают.

"Я беспокоюсь, что принципы являются чем-то вроде этического проекта", заявила агентству Associated Press профессор антропологии науки и техники Ланкастерского университета Люси Сухман. Слово "подходящий" может быть истолковано по-разному."

Другие наблюдатели предположили, что эти принципы направлены на укрепление доверия с технологической индустрией США. Google в 2018 году решила не продлевать контракт Пентагона, известный как "проект Maven", под давлением сотрудников. Проект использовал машинное обучение, чтобы различать людей и объекты на видео, сделанное при помощи ПБЛА.

Эти принципы стали результатом 15-месячных переговоров с технологическими гигантами и университетами. Консультации вел Эрик Шмидт, бывший исполнительный директор Google.

Если Вы нашли ошибку в тексте - выделите ее и нажмите Shift + Enter или Нажмите тут.