Меньше автономности. Больше человечности.

Машины не воспринимают нас как людей, а просто еще один фрагмент кода, который нужно обработать и отсортировать. Технологии искусственного интеллекта и автоматизированное принятие решений теперь играют важную роль в нашей жизни - от умных домов до использования собак-роботов полицией. В самом конце спектра автоматизации лежат роботы-убийцы.

Роботы-убийцы не просто появляются - мы их создаем. Если мы допустим эту дегуманизацию, мы будем бороться, чтобы защитить себя от машинного принятия решений в других сферах нашей жизни. Нам нужно запретить автономные системы оружия, которые будут использоваться против людей, чтобы предотвратить это сползание к цифровой дегуманизации.

Такие технологии, как распознавание лиц, предпочитают светлокожие и внешне мужественные лица темнокожим и внешне женственным лицам. И хотя будут предприняты усилия по диверсификации наборов данных, дело не только в нерепрезентативных данных. Технологии искусственного интеллекта усиливают существующие институциональные модели дискриминации. Стереотипы закрепляются за счет автоматизированного принятия решений.

Необходим новый закон об автономии систем вооружений, чтобы установить границы между приемлемым и неприемлемым. Это фундаментально для предотвращения цифровой дегуманизации и дальнейших циклов угнетения и насилия. Мы должны бросать вызов структурам неравенства, а не использовать их в качестве оружия.

На поле боя или во время протеста машины не могут сделать сложный этический выбор, они не могут понять ценность человеческой жизни. Машины не понимают контекстов или последствий: понимание - это человеческая способность, и без этого понимания мы теряем моральную приверженность и подрываем существующие правовые нормы.

Обеспечение значимого человеческого контроля означает понимание технологий, которые мы используем, понимание того, где мы их используем, и полное понимание последствий наших действий. Решение о жизни и смерти не следует делегировать машине. Пришло время для регулирования этих технологий новым международным правом.