Компанія OpenAI опинилася у центрі скандалу після підписання контракту з Пентагоном, пише газета “Експрес”.
ШІ у Пентагоні: розробники звільняються з компанії
Після скандалу з Anthropic, який відмовився співпрацювати з Міністерством оборони США через етичні питання пов’язані з використанням штучного інтелекту у військових цілях, відомство підписало контракт з OpenAI. Новина про співпрацю Пентагону та компанії, яка сторила ChatGPT, викликала обурення в американському суспільстві. А керівниця відділу апаратного забезпечення OpenAI Кейтлін Каліновскі написала заяву на звільнення.
Про своє рішення Кейтлін Каліновскі повідомила у соцмережі X. У дописі вона зазначила, що хоч штучний інтелект може відігравати важливу роль у національній безпеці, певні межі потребують набагато ретельнішого контролю.
"Стеження за американцями без судового нагляду і летальна автономна зброя без авторизації людиною — це лінії, які заслуговували на більше обговорення, ніж отримали. Це питання принципу, а не людей", — кояснила Каліновскі.
До OpenAI вона керувала розробкою AR-окулярів Orion у Meta, понад 9 років працювала над VR-шоломами в Oculus і майже 6 років проектувала MacBook у Apple.
3 березня компанію покинув віцепрезидент з досліджень та голова посттрейнінгу Макс Шварцер. Шварцер формально не пов'язав звільнення з Пентагоном. Він написав, що хоче повернутися до індивідуальних досліджень. Однак його допис з'явився того ж дня, коли Сем Альтман (генеральний директор компанії OpenAI) визнав, що угода з військовими виглядала "недбалою".
Ррішення про співпрацю з військовими вже завдало OpenAI репутаційних збитків: кількість видалень мобільного додатка ChatGPT у суботу зросла на 295%, тоді як додаток Claude від Anthropic очолив рейтинги App Store. Причиною успіху конкурента стала його принципова відмова розробляти повністю автономну зброю, що призвело до внесення Anthropic у “чорний список” адміністрації Трампа.
Експерти, зокрема професорка Оксфордського університету Маріярозарія Таддео, висловлюють занепокоєння, що з виходом Anthropic з гри Пентагон втратив “найбільш свідомого щодо безпеки актора”.
Звільнення топ-працівників — лише вершина айсберга
Щонайменше 93 співробітники OpenAI підписали відкритий лист We Will Not Be Divided з вимогою встановити ті ж червоні лінії, що й Anthropic.
Дослідник OpenAI Ейдан Маклафлін публічно написав у X: "Особисто я не вважаю, що ця угода того коштувала".
При цьому сама компані OpenAI наполягає, що її контракт містить більше обмежень, ніж будь-які попередні військові угоди, і що червоні лінії — заборона масового стеження, автономної зброї та "соціального кредиту" — захищені контрактно. У заяві для Reuters компанія заявила, що розуміє, що її робота в цій галузі може викликати сильні думки та дискусії. Вона додала, що планує продовжувати взаємодію зі співробітниками, представниками уряду, групами громадянського суспільства та громадами в усьому світі в міру розвитку дискусії.
Але критики вимагають більшої безпеки: ці обмеження лише посилаються на чинне законодавство, тоді як Anthropic вимагала заборонити те, що закон поки що дозволяє.
