Світ боїться, що штучний інтелект вийде з-під контролю. Наскільки це реально?

30 країн підписали декларацію про безпеку використання ШІ.

Фото unsplash.com
Фото unsplash.com

Підписання декларації відбулося на наймасштабнішому саміті з безпеки штучного інтелекту — AI Safety Summit. Крім України, документ підписали ще 29 держав, серед яких США, Австралія та країни ЄС, а також Китай, Саудівська Аравія і Південна Корея. 

У декларації йдеться, що ШІ відкрив великі можливості для людей у багатьох сферах життя. Однак його неправильне використання несе “катастрофічний ризик” для людства. То про що йдеться? 

— У декларації виокремили два типи ШІ: вузький (моделі, які розв’язують невеликі інтелектуальні задачі) і базовий, загальний (має велику картину світу і може робити логічні висновки). Для цих типів використовуватимуть різні стратегії обмежень, — пояснює заступник директора з наукової роботи Інституту проблем штучного інтелекту Міністерства освіти та науки і Національної академії наук України Микита Клименко. — Прості моделі зазвичай не можуть спричинити велику шкоду. Їх використовують у побутових засобах, наприклад, у кавоварці. Найгірше, що вона може зробити, — не запрацювати. 

— А як щодо складних? 

— Великі мовні чи генеративні моделі створюють або істотно змінюють інформацію, а також мають сформовану карту світу і багато “уявлень”. Такі моделі можуть, наприклад, змонтувати замість нас відео чи відредагувати доповідь. Ризики пов’язані з тим, що їхні висновки не відповідатимуть нашим намірам. Буває, що модель неадекватно сприймає дійсність, скажімо, має неправильні уявлення про територіальну цілісність країни чи не підтримує гендерної рівності. Ці закономірності виявити і заборонити доволі просто, але бувають і складніші випадки. 

Публікації у провідних наукових виданнях свідчать, що великі мовні моделі по-іншому сприймають час: не як лінійну послідовність, а як хвилеподібну черговість причинно-наслідкових подій. При цьому зв’язки між ними встановлюються у різних категоріальних сутностях. Тому як це вплине на висновки такої моделі, сказати важко. Як і перевірити її. 

— Тобто основна загроза ШI — дезінформація? 

— Не зовсім. Складні моделі машинного навчання дедалі частіше застосовують для вирішення глобальних завдань, як-от керування енергосистемами, планування логістики важливих продуктів, робота у сфері безпеки та оборони (для моделювання стратегічних операцій).

Деякі з цих завдань можуть бути практично автоматизованими, тому важливо пильнувати як за вже готовими моделями ШІ, так і за процесом їх створення: навчальними вибірками, фахівцями, які над ними працюють. Усе це впливає на результат, який може бути несприятливим і спричинить катастрофічні наслідки. 

— Які наприклад? 

— Загрози кібербезпеці — найочевидніший різновид шкоди, якої може завдати ШІ. Наприклад, машинне навчання застосовують для контролю за роботою атомної електростанції. Якщо система пропускає певні зловмисні коди, раніше це встановлювали аналізом шаблонів і атипової поведінки програми. З ускладненням цих кодів у пригоді стало машинне навчання. У його алгоритми непрямо запрограмовано простеження таких шаблонів: вони самі їх аналізують і приймають здебільшого правильні рішення. Але бувають і винятки, бо системи керування можна перехитрити. І це дуже небезпечно, якщо йдеться про критично важливі для країни об’єкти. 

— Джеффрі Гінтон, один із “хрещених батьків штучного інтелекту”, стверджує, що новітня технологія може становити більш глобальну загрозу для людства, ніж зміна клімату. Чому? 

— Наразі на деяких фабриках діють роботи з вузьким ШІ — їх завжди контролюють люди. Але все йде до того, що скоро роботу всього заводу зможе контролювати лише одна людина. Однак якщо щось піде не так, вона може й не впоратися з результатами збою глобальної системи керування — і та може почати випускати бозна-що або не допустити людину до подальшого контролю. 

Потенційно штучний інтелект зможе отримати такі повноваження, яких не надавали людям. І на тлі цього можуть виникнути проблеми. Ми намагаємося керувати людьми, які контролюють важливі процеси, і маємо засоби для їхньої перевірки. І якщо вони поводяться неадекватно, то можемо вивести їх з контуру дії небезпечних приладів. Із ШІ ситуація менш прогнозована. 

— То як не допустити проблем, які можуть бути пов’язані зі стрімким розвитком ШI? 

— Сферу ШІ розвивати потрібно в будь-якому разі. Це універсальний інструмент, що дозволяє досліджувати, контролювати, виконувати багато роботи, яку, як вважалося раніше, складно автоматизувати. Але перш ніж допускати ШІ до виконання критичних операцій, потрібно розробляти методи для контролю і перевірки його роботи. 

Я схильний порівнювати ШІ з медичними препаратами. Перед використанням усі лікарські засоби проходять перевірку, але на цьому їхнє дослідження не завершується — воно може тривати ще десятки років. Так само і з моделями ШІ. Нині вони здебільшого малі, але є продукти, що вміщують дуже багато інформації і оперують нею подеколи незрозумілим для нас чином. Роботу такої системи потрібно вивчати й перевіряти десятиліттями. 

— А як впоратися із засиллям дезінформації? 

— Генерація фейків, яка набиратиме обертів з поширенням ШІ, небезпечна, але що більше дезінформації з’являтиметься, то більше засобів її виявлення створюватимуть. Наприклад, одна з популярних соцмереж для запобігання створенню фейкових акаунтів уже понад три роки використовує алгоритм, який виявляє підроблені фото неіснуючих людей. І хоч для людини це завдання доволі складне, алгоритм спрацьовує дуже добре. Протидіяти загрозі поширення фейків можна й просто перевіряючи в інших джерелах інформацію, яку зібрав ШІ. 

Подробиці
Фото з Вікіпедії

Російський диктатор Володимир Путін назвав умови переговорів з Україною. Він заявив, що Україна повинна відмовитись від вступу до НАТО та вивести війська з Донецької, Луганської, Запорізької та Херсонської областей.

14.06
Подробиці
Фото з Вікіпедії

Україна та її західні прихильники сперечаються щодо швидкості та масштабів підготовки пілотів-винищувачів: Київ тисне на американських та європейських партнерів, щоб вони розширили програму, а союзники заперечують, що українські пілоти ще не готові почати літати на літаках F-16 у великій кількості.

14.06
Подробиці
Фото: Getty Images

Війська РФ почали просуватися уперід на Донеччині.

14.06
Подробиці
Фото: Getty Images

Диктатор Кім Чен Ин допомагає своєму колезі Путіну знищувати Україну.

14.06
Люди і проблеми
Фото Ярослава СТАНЧАКА

Позитивна динаміка до збільшення міжнародних резервів України, яку ми спостерігали останнім часом, припинилася.

14.06
Подробиці
Скриншот з відео

Увечері 13 червня в прикордонному Шебекіно прозвучали вибухи. Вони були такої сили, що у місцевих у домівках повибивало вікна. Проте, причиною вибуху стали не українські дрони, а російські боєприпаси.

14.06
Подробиці
Фото: Getty Images

На думку президента США для перемоги України зроблено вже чимало, залишилось прописати деталі.

14.06
Подробиці
Фото: з відкритих джерел

Найцікавіше, що стріляли по кораблю не російські окупанти, а представники зовсім іншої країни.

14.06
Подробиці
Фото: АрміяІнформ

Росіяни вдалися до масованого комбінованого удару по Україні із застосуваннях різних типів ракет та ударних БПЛА.

14.06
Подробиці
Фото: зруйнований аеродром Бельбек, телеграм-канал окупантів

Американські аналітики вважають, що Україна невдовзі зможе повернути Крим військовим шляхом.

13.06
Подробиці
Фото: АрміяІнформ

РФ так і не змогла створити на території України буферну зону, про яку мріяв Путін.

13.06
Подробиці
Фото: АрміяІнформ

Більше того, у США припускають, що в майбутньому Україна сама піде у контрнаступ.

13.06
Подробиці
Фото: АрміяІнформ

Одразу вісім країн звернулись до ЄС з вимогою заблокувати дипломатів РФ.

13.06
Подробиці
Фото ілюстративне: www.facebook.com/Taclbery

Українські військові знищили ще п'ять ворожих човнів на Півдні. Про це повідомив речник військово-морських сил ЗСУ Дмитро Плетенчук.

13.06
Cпорт
Фото facebook.com/UkrainianTennisFederation

Загальний призовий фонд турніру цього року становив понад 53 мільйони євро.

13.06
Подробиці
Фото з Telegram

Російські “журналісти” потрапили під обстріл у Горлівці.

13.06
Подробиці
Фото depositphotos.com

Пекін лобіює серед урядів свій альтернативний “мирний план” із завершення війни РФ проти України й критикує майбутній саміт у Швейцарії.

13.06
Подробиці
Скрін з відео

Обидва підозрювані знали дівчинку і її маму. Один із чоловіків навіть був у стосунках з жінкою.

13.06
Люди і проблеми
Скрін з відео Поліції Рівненської області

Правоохоронці склали на неповнолітніх адмінпротоколи за статтею про дрібне хуліганство.

13.06
Подробиці
Фото: wikimedia.org

“Польща не погоджувалася на передачу польської батареї. Польські Patriot захищають польське небо, і це не зміниться", - сказав заступник голови Міноборони країни Цезарій Томчик.

13.06
Подробиці
Фото: facebook.com/joebiden

Президент США готовий послати чіткий сигнал Путіну на саміті “Великої сімки”.

13.06
Подробиці
Фото з Вікіпедії.

Швейцарія хоче обмежити допомогу українським біженцям. Відповідне рішення ухвалила Верхня палата парламенту.

13.06
Подробиці
Фото ОП.

Підсумкове рішення Саміту миру, яке було невигідне для України, змінили. Яких наслідків вдалося Україні уникнути.

13.06
Люди і проблеми
Фото depositphotos.com

Кожен може обирати - взяти участь у додатковій сесії чи чекати, коли у тимчасовому екзаменаційному центрі відновлять електропостачання.

13.06
Подробиці
Запорізька АЕС.

Цілком можливо, що українцям доведеться перезимувати у темряві. ВВС пише, що проблема не лише в атаках РФ, але і у тому, що після відновлення подавання електроенергії люди одночасно вмикають усі свої електроприлади.

13.06
Подробиці
Фото з Вікіпедії.

Українські бійці Сил спецоперацій (ССО) вразили нову станцію зв'язку росіян. На озброєння в армію окупантів Р-416ГМ надійшла у 2018 році.

13.06
Подробиці
Фото з Вікіпедії.

Українські сили намагаються послабити російську ППО перед отриманням F-16. Це дозволить використовувати пілотовану авіацію ближче до прифронтових районів.

13.06
Подробиці
Фото ГУР.

Буданов заявив, що Росія розпочала літній наступ. За словами очільника розвідки, "армагедону не буде".

13.06
Подробиці
Фото:Скриншот відео / user7770672197193 / TikTok.

Смерть 9-річної Валерії у Німеччині. Батько дівчинки звинуватив маму загиблої дитини у недбалості.

12.06
Подробиці
Фото ДСНС.

Росіяни мінують Україну круглими авіабомбами. Вони своїм виглядом можуть привертати увагу дітей.

12.06
показати більше