Ученые призвали бойкотировать университет, работающий над автономным оружием

217

(Чтобы не читать статью – можете посмотреть видео)

Исследователи, работающие над искусственным интеллектом из почти 30 стран мира, выразили большую обеспокоенность и призвали к бойкоту Университета Южной Кореи, который вместе с оружейной компанией начал работу по созданию армии искусственного интеллекта «роботов-убийц».

Более 50 ведущих ученых, занимающихся разработкой искусственного интеллекта, подписали письмо, призывающее к бойкоту Южнокорейского института передовых наук и технологий (KAIST) и его партнера, производителя вооружений Hanwha Systems. Подписавшиеся объявили, что не будут сотрудничать с сотрудниками института из-за опасений, что они хотят развивать технологию автономного оружия.

– Есть много замечательных вещей, которые можно сделать с помощью искусственного интеллекта – те, которые спасают жизни, в том числе и в военном контексте, но они открыто заявляют, что их целью является разработка автономного оружия. Это очень беспокоит. Это очень уважаемый университет, но он работает с этически сомнительным партнером, который нарушает международные стандарты », – объяснил Тоби Уолш из Университета Нового Южного Уэльса, который инициировал бойкот.

Ученые говорят, что этот тип действий ускорит автономную гонку вооружений, а само оружие станет революцией в войне. Ученые также добавили, что такое оружие позволит вести войны в еще больших масштабах и может привести к гибели человечества. Они также отметили, что он может быть использован террористами. «Если мы откроем этот ящик Пандоры, его будет трудно закрыть», – писали исследователи.

Более 20 стран со всего мира призвали к полному запрету на разработку технологии автономного оружия. На следующей неделе в Женеве состоится встреча под эгидой Организации Объединенных Наций. Использование искусственного интеллекта в вооруженных силах по всему миру вызывает опасения относительно ситуации, аналогичной той, которая известна из сериала «Терминатор». Возникли вопросы о точности такого оружия и его способности отличать друга от врага.

Hanwha Systems является крупнейшим производителем оружия в Южной Корее. Производит, среди прочего кассетные боеприпасы, запрещенные в 120 странах по международному договору. Однако Южная Корея вместе с Соединенными Штатами, Россией и Китаем не подписали эту конвенцию.

«Я хотел бы подчеркнуть, что KAIST не собирается заниматься разработкой смертоносных автономных систем оружия и смертоносных роботов», – сказал Сунг-Чул Шин, глава KAIST. – Как академическое учреждение мы ценим права человека и этические стандарты. KAIST не будет заниматься какой-либо исследовательской деятельностью, противоречащей человеческому достоинству, включая автономное оружие, без значительного человеческого контроля, – добавил он.

В заявлении, выпущенном KAIST во время открытия нового исследовательского центра в феврале, вы можете прочитать, что «центр сосредоточится на системах команд и систем принятия решений, основанных на искусственном интеллекте, сложных алгоритмах навигации для беспилотных подводных аппаратов, интеллектуальных системах обучения летательных аппаратов на основе искусственного интеллекта и интеллектуальная технология отслеживания и распознавания объектов. ”

Это заявление озадачило Уолша, который послал KAIST несколько запросов относительно их исследовательской программы. Уолш, несмотря на все усилия, не получил никакого ответа, что побудило его убедить коллег по работе с искусственным интеллектом и начать бойкот.

Разработка автономного оружия может вызвать опасения. И это правильно. Однако важно понимать, что ни одна международная конвенция не помешает лицам, принимающим решения, разрабатывать оружие, которое потенциально может изменить баланс сил в мире.

Источник: The Guardian , CNN , фото: Дик Томас Джонсон / CC BY 2.0 / Flickr