Світ боїться, що штучний інтелект вийде з-під контролю. Наскільки це реально?

30 країн підписали декларацію про безпеку використання ШІ.

Фото unsplash.com
Фото unsplash.com

Підписання декларації відбулося на наймасштабнішому саміті з безпеки штучного інтелекту — AI Safety Summit. Крім України, документ підписали ще 29 держав, серед яких США, Австралія та країни ЄС, а також Китай, Саудівська Аравія і Південна Корея. 

У декларації йдеться, що ШІ відкрив великі можливості для людей у багатьох сферах життя. Однак його неправильне використання несе “катастрофічний ризик” для людства. То про що йдеться? 

— У декларації виокремили два типи ШІ: вузький (моделі, які розв’язують невеликі інтелектуальні задачі) і базовий, загальний (має велику картину світу і може робити логічні висновки). Для цих типів використовуватимуть різні стратегії обмежень, — пояснює заступник директора з наукової роботи Інституту проблем штучного інтелекту Міністерства освіти та науки і Національної академії наук України Микита Клименко. — Прості моделі зазвичай не можуть спричинити велику шкоду. Їх використовують у побутових засобах, наприклад, у кавоварці. Найгірше, що вона може зробити, — не запрацювати. 

— А як щодо складних? 

— Великі мовні чи генеративні моделі створюють або істотно змінюють інформацію, а також мають сформовану карту світу і багато “уявлень”. Такі моделі можуть, наприклад, змонтувати замість нас відео чи відредагувати доповідь. Ризики пов’язані з тим, що їхні висновки не відповідатимуть нашим намірам. Буває, що модель неадекватно сприймає дійсність, скажімо, має неправильні уявлення про територіальну цілісність країни чи не підтримує гендерної рівності. Ці закономірності виявити і заборонити доволі просто, але бувають і складніші випадки. 

Публікації у провідних наукових виданнях свідчать, що великі мовні моделі по-іншому сприймають час: не як лінійну послідовність, а як хвилеподібну черговість причинно-наслідкових подій. При цьому зв’язки між ними встановлюються у різних категоріальних сутностях. Тому як це вплине на висновки такої моделі, сказати важко. Як і перевірити її. 

— Тобто основна загроза ШI — дезінформація? 

— Не зовсім. Складні моделі машинного навчання дедалі частіше застосовують для вирішення глобальних завдань, як-от керування енергосистемами, планування логістики важливих продуктів, робота у сфері безпеки та оборони (для моделювання стратегічних операцій).

Деякі з цих завдань можуть бути практично автоматизованими, тому важливо пильнувати як за вже готовими моделями ШІ, так і за процесом їх створення: навчальними вибірками, фахівцями, які над ними працюють. Усе це впливає на результат, який може бути несприятливим і спричинить катастрофічні наслідки. 

— Які наприклад? 

— Загрози кібербезпеці — найочевидніший різновид шкоди, якої може завдати ШІ. Наприклад, машинне навчання застосовують для контролю за роботою атомної електростанції. Якщо система пропускає певні зловмисні коди, раніше це встановлювали аналізом шаблонів і атипової поведінки програми. З ускладненням цих кодів у пригоді стало машинне навчання. У його алгоритми непрямо запрограмовано простеження таких шаблонів: вони самі їх аналізують і приймають здебільшого правильні рішення. Але бувають і винятки, бо системи керування можна перехитрити. І це дуже небезпечно, якщо йдеться про критично важливі для країни об’єкти. 

— Джеффрі Гінтон, один із “хрещених батьків штучного інтелекту”, стверджує, що новітня технологія може становити більш глобальну загрозу для людства, ніж зміна клімату. Чому? 

— Наразі на деяких фабриках діють роботи з вузьким ШІ — їх завжди контролюють люди. Але все йде до того, що скоро роботу всього заводу зможе контролювати лише одна людина. Однак якщо щось піде не так, вона може й не впоратися з результатами збою глобальної системи керування — і та може почати випускати бозна-що або не допустити людину до подальшого контролю. 

Потенційно штучний інтелект зможе отримати такі повноваження, яких не надавали людям. І на тлі цього можуть виникнути проблеми. Ми намагаємося керувати людьми, які контролюють важливі процеси, і маємо засоби для їхньої перевірки. І якщо вони поводяться неадекватно, то можемо вивести їх з контуру дії небезпечних приладів. Із ШІ ситуація менш прогнозована. 

— То як не допустити проблем, які можуть бути пов’язані зі стрімким розвитком ШI? 

— Сферу ШІ розвивати потрібно в будь-якому разі. Це універсальний інструмент, що дозволяє досліджувати, контролювати, виконувати багато роботи, яку, як вважалося раніше, складно автоматизувати. Але перш ніж допускати ШІ до виконання критичних операцій, потрібно розробляти методи для контролю і перевірки його роботи. 

Я схильний порівнювати ШІ з медичними препаратами. Перед використанням усі лікарські засоби проходять перевірку, але на цьому їхнє дослідження не завершується — воно може тривати ще десятки років. Так само і з моделями ШІ. Нині вони здебільшого малі, але є продукти, що вміщують дуже багато інформації і оперують нею подеколи незрозумілим для нас чином. Роботу такої системи потрібно вивчати й перевіряти десятиліттями. 

— А як впоратися із засиллям дезінформації? 

— Генерація фейків, яка набиратиме обертів з поширенням ШІ, небезпечна, але що більше дезінформації з’являтиметься, то більше засобів її виявлення створюватимуть. Наприклад, одна з популярних соцмереж для запобігання створенню фейкових акаунтів уже понад три роки використовує алгоритм, який виявляє підроблені фото неіснуючих людей. І хоч для людини це завдання доволі складне, алгоритм спрацьовує дуже добре. Протидіяти загрозі поширення фейків можна й просто перевіряючи в інших джерелах інформацію, яку зібрав ШІ. 

Автор: Ірина Батюк
Подробиці
Фото: РосЗМІ

У Кремлі вважають Одесу історично російським містом.

30.06
Подробиці
Фото: АрміяІнформ

Збільшення швидкості російських БПЛА створило проблеми для нашої ППО, але вихід знайдено.

30.06
Подробиці
Фото: т-к КіберБорошно

Ворог до останнього приховував кількість враженої техніки.

30.06
Подробиці
Фото Нацполіції України (ілюстративне).

Чоловіка просять повернути БПЛА, адже він може вибухнути будь-якої миті.

30.06
Подробиці
Трагедія в Румунії: автобус з 60 українцями потрапив в аварію

Автобус, що перевозив 60 громадян України, у тому числі 21 дитину, зіткнувся з мікроавтобусом, що перевозив п'ятьох осіб.

30.06
Подробиці
Фото zoda.gov.ua

Законопроєкт передбачає відстрочку від мобілізації на 12 місяців для тих, хто відслужив за "Контрактом 18-24".

30.06
Подробиці
Фото: wikimedia.org

Ставлення поляків до біженців з України сильно змінилося за три роки війна. І на це є кілька причин.

30.06
Подробиці
Фото ілюстративне: armyinform.com.ua

Проти школярів порушили кримінальну справу через нібито “реабілітацію нацизму”.

30.06
Подробиці
Фото ілюстративне: facebook.com/GeneralStaff.ua

Генштаб повідомив, що українські війська втримали лінію оборони та звільнили Андріївку.

30.06
Cпорт
Фото fckarpaty.com.ua

У міжсезоння футбольний клуб може наробити великого шуму на трансферному ринку й значно підсилити команду.

30.06
Подробиці
Фото ілюстративне: wikipedia.org

Нафтовий танкер Vilamoura у квітні і травні побував в Усть-Лузі та Новоросійську.

30.06
Здоров'я
Фото uk.wikipedia.org/wiki/Хантавірусний_легеневий_синдром

У людини може несподівано заболіти голова, живіт і спина, з'являється кров у сечі.

30.06
Подробиці
Понад 15 вантажівок з чеченцями заїхало в Маріуполь: ворог готує наступ на Запоріжжя

Це найбільша кількість бойовиків Кадирова, що заїхали на тимчасово окуповані території України з 2023 року.

30.06
Подробиці
Фото: wikimedia.org

Москва вважає участь західних країн у підготовці українських військових прямою участю у конфлікті.

30.06
Подробиці
Фото: ДСНС

Сьогодні, 30 червня ворогом завдано удар за допомогою БпЛА поряд з будівлею одного з районних територіальних центрів комплектування та соціальної підтримки у м. Кривий Ріг.

30.06
Подробиці
Фото з відкритих джерел

Командування Сухопутних військ продовжує публічно звітувати перед суспільством про роботу ТЦК та СП.

30.06
Люди і проблеми
Фото pixabay.com

Вартість контракту й раніше зростала на близько 10% щороку. А цьогоріч збільшиться подекуди й на 30%.

30.06
Подробиці
Фото з відкритих джерел

Російська армія має величезні переваги в живій силі та техніці над Україною, але її прогрес був повільним, і російські військові блогери звинувачують у цьому культуру військової корупції.

30.06
Подробиці
Фото з відкритих джерел

Переговори Росії та України: речник Кремля Дмитро Пєсков заявив, що підштовхнути Росію за стіл переговорів тиском чи силою неможливо.

30.06
Подробиці
Фото: Генштаб ЗСУ

Російські війська знаходяться всього за 20 кілометрів від Сум – нової мети для Москви, оскільки Кремль використовує свою перевагу в живій силі в дедалі більшій кількості місць уздовж фронту.

30.06
Подробиці
Скриншот з відео

В російському Льгові у ніч на 30 червня відбулись прильоти по складах окупантів в районі залізничної станції.

30.06
Подробиці
Фото: ГУР

Вбивство російського військового: українку та росіянку засудили до 18 та 24 років позбавлення волі. Росія інкримінує їм вбивство офіцера-ракетника ЗС РФ Костянтина Нагайка.

29.06
Подробиці
Максим Устименко – Герой України: Зеленський розповів про загиблого пілота F-16

Відповідний указ № 444/2025 з'явився на сайті Офісу президента України.

29.06
Подробиці
Скриншот з відео

На Харківщині пілоти підрозділу "Фенікс" бригади прикордонників "Помста" знищили російський танк, БМП, блокпост, антену зв'язку, гармату Д-20, а також ліквідували з десяток окупантів.

29.06
Подробиці
Фото: wikimedia.org

Кремль жорстко придушує інакомислення після того, як Путін віддав наказ про вторгнення в Україну в лютому 2022 року.

29.06
Подробиці
Фото з відкритих джерел

Сенатор Грем озвучив позицію Трампа щодо нових санкцій проти Росії: за його словами, американський лідер підтримав законопроект.

29.06
Подробиці
Воїн, на тілі якого окупанти випалили Слава России, розповів про свою першу реакцію на тавро

Десантник, на тілі якого окупанти залишили "Z" і тавро "Слава России", нещодавно повернувся з полону. Його світлина з рубцями на животі облетіла соцмережі, а медики у Львові взялись допомогти чоловіку.

29.06
Подробиці
Фото зі сторінки Анастасії Приходько у Фейсбук.

Таким чином Приходько відреагувала на новину про те, що Вєрку Сердючку не покарають за виконання пісень російською.

29.06
показати більше