Світ боїться, що штучний інтелект вийде з-під контролю. Наскільки це реально?

30 країн підписали декларацію про безпеку використання ШІ.

Фото unsplash.com
Фото unsplash.com

Підписання декларації відбулося на наймасштабнішому саміті з безпеки штучного інтелекту — AI Safety Summit. Крім України, документ підписали ще 29 держав, серед яких США, Австралія та країни ЄС, а також Китай, Саудівська Аравія і Південна Корея. 

У декларації йдеться, що ШІ відкрив великі можливості для людей у багатьох сферах життя. Однак його неправильне використання несе “катастрофічний ризик” для людства. То про що йдеться? 

— У декларації виокремили два типи ШІ: вузький (моделі, які розв’язують невеликі інтелектуальні задачі) і базовий, загальний (має велику картину світу і може робити логічні висновки). Для цих типів використовуватимуть різні стратегії обмежень, — пояснює заступник директора з наукової роботи Інституту проблем штучного інтелекту Міністерства освіти та науки і Національної академії наук України Микита Клименко. — Прості моделі зазвичай не можуть спричинити велику шкоду. Їх використовують у побутових засобах, наприклад, у кавоварці. Найгірше, що вона може зробити, — не запрацювати. 

— А як щодо складних? 

— Великі мовні чи генеративні моделі створюють або істотно змінюють інформацію, а також мають сформовану карту світу і багато “уявлень”. Такі моделі можуть, наприклад, змонтувати замість нас відео чи відредагувати доповідь. Ризики пов’язані з тим, що їхні висновки не відповідатимуть нашим намірам. Буває, що модель неадекватно сприймає дійсність, скажімо, має неправильні уявлення про територіальну цілісність країни чи не підтримує гендерної рівності. Ці закономірності виявити і заборонити доволі просто, але бувають і складніші випадки. 

Публікації у провідних наукових виданнях свідчать, що великі мовні моделі по-іншому сприймають час: не як лінійну послідовність, а як хвилеподібну черговість причинно-наслідкових подій. При цьому зв’язки між ними встановлюються у різних категоріальних сутностях. Тому як це вплине на висновки такої моделі, сказати важко. Як і перевірити її. 

— Тобто основна загроза ШI — дезінформація? 

— Не зовсім. Складні моделі машинного навчання дедалі частіше застосовують для вирішення глобальних завдань, як-от керування енергосистемами, планування логістики важливих продуктів, робота у сфері безпеки та оборони (для моделювання стратегічних операцій).

Деякі з цих завдань можуть бути практично автоматизованими, тому важливо пильнувати як за вже готовими моделями ШІ, так і за процесом їх створення: навчальними вибірками, фахівцями, які над ними працюють. Усе це впливає на результат, який може бути несприятливим і спричинить катастрофічні наслідки. 

— Які наприклад? 

— Загрози кібербезпеці — найочевидніший різновид шкоди, якої може завдати ШІ. Наприклад, машинне навчання застосовують для контролю за роботою атомної електростанції. Якщо система пропускає певні зловмисні коди, раніше це встановлювали аналізом шаблонів і атипової поведінки програми. З ускладненням цих кодів у пригоді стало машинне навчання. У його алгоритми непрямо запрограмовано простеження таких шаблонів: вони самі їх аналізують і приймають здебільшого правильні рішення. Але бувають і винятки, бо системи керування можна перехитрити. І це дуже небезпечно, якщо йдеться про критично важливі для країни об’єкти. 

— Джеффрі Гінтон, один із “хрещених батьків штучного інтелекту”, стверджує, що новітня технологія може становити більш глобальну загрозу для людства, ніж зміна клімату. Чому? 

— Наразі на деяких фабриках діють роботи з вузьким ШІ — їх завжди контролюють люди. Але все йде до того, що скоро роботу всього заводу зможе контролювати лише одна людина. Однак якщо щось піде не так, вона може й не впоратися з результатами збою глобальної системи керування — і та може почати випускати бозна-що або не допустити людину до подальшого контролю. 

Потенційно штучний інтелект зможе отримати такі повноваження, яких не надавали людям. І на тлі цього можуть виникнути проблеми. Ми намагаємося керувати людьми, які контролюють важливі процеси, і маємо засоби для їхньої перевірки. І якщо вони поводяться неадекватно, то можемо вивести їх з контуру дії небезпечних приладів. Із ШІ ситуація менш прогнозована. 

— То як не допустити проблем, які можуть бути пов’язані зі стрімким розвитком ШI? 

— Сферу ШІ розвивати потрібно в будь-якому разі. Це універсальний інструмент, що дозволяє досліджувати, контролювати, виконувати багато роботи, яку, як вважалося раніше, складно автоматизувати. Але перш ніж допускати ШІ до виконання критичних операцій, потрібно розробляти методи для контролю і перевірки його роботи. 

Я схильний порівнювати ШІ з медичними препаратами. Перед використанням усі лікарські засоби проходять перевірку, але на цьому їхнє дослідження не завершується — воно може тривати ще десятки років. Так само і з моделями ШІ. Нині вони здебільшого малі, але є продукти, що вміщують дуже багато інформації і оперують нею подеколи незрозумілим для нас чином. Роботу такої системи потрібно вивчати й перевіряти десятиліттями. 

— А як впоратися із засиллям дезінформації? 

— Генерація фейків, яка набиратиме обертів з поширенням ШІ, небезпечна, але що більше дезінформації з’являтиметься, то більше засобів її виявлення створюватимуть. Наприклад, одна з популярних соцмереж для запобігання створенню фейкових акаунтів уже понад три роки використовує алгоритм, який виявляє підроблені фото неіснуючих людей. І хоч для людини це завдання доволі складне, алгоритм спрацьовує дуже добре. Протидіяти загрозі поширення фейків можна й просто перевіряючи в інших джерелах інформацію, яку зібрав ШІ. 

Автор: Ірина Батюк
Подробиці
Фото: facebook.com/TeatrSlowackiego

Краківський театр імені Юліуша Словацького змушений зняти український прапор із фасаду будівлі та перенести його всередину приміщення через зростання кількості погроз.

20.06
Подробиці
Фото: kyivcity.gov.ua

У столичному метро 19-річний блогер зачепився за вагон і знімав це на відео, щоб вразити своїх підписників. Натомість він отримав перелом ноги та струс мозку.

20.06
Подробиці
Удар по аеропорту Мешхед на сході Ірану, фото: telegram.org

Іран заявив у п'ятницю, що не обговорюватиме майбутнє своєї ядерної програми, перебуваючи під нападом з боку Ізраїлю.

20.06
Подробиці
Скриншот з відео

Боєць Третьої окремої десантно-штурмової бригади ЗСУ з позивним "Марік" самотужки взяв у полон чотирьох російських окупантів на передовій.

20.06
Подробиці
Скриншот з відео

Російський диктатор Володимир Путін заявив, що РФ завжди виступала за "забезпечення безпеки кожної країни без шкоди безпеці іншої країни".

20.06
Подробиці
Фото: wikipedia.org

Країна, можливо, має від 200 до 300 одиниць ядерної зброї, що втричі перевищує загальноприйняту цифру близько 90.

20.06
Подробиці
Обмін полоненими: додому повернулися поранені та важкохворі бійці

Серед звільнених є захисники Маріуполя, які утримувалися у полоні з 2022 року.

20.06
Подробиці
Скрін з відео

Людей вивозять з РФ та залишають у підвалі, де бракує їжі та спальних місць. Доводиться спати по черзі.

20.06
Подробиці
Фото ілюстративне: facebook.com/kommander.nord

У прикордонній смузі будуються широкі траншеї глибиною до двох метрів.

20.06
Подробиці
У Києві спалили авто Героя України, який святкував день народження

Підозрюваного у підпалі вже затримали. Він і сам колишній військовий.

20.06
Подробиці
У Києві спалили авто Героя України, який святкував день нароження

Підозрюваного у підпалі вже затримали. Він і сам колишній військовий.

20.06
Подробиці
Фото: з відкритих джерел

Сталіна в Росії люблять більше, ніж Путіна і це підходить нинішньому диктаторові.

20.06
Cпорт
Фото facebook.com

Збірна України здобула аж 13 золотих, 23 срібні та 12 бронзових нагород на турнірі в грецькому місті Лутракі. І завдяки цьому багатому врожаю посіла перше загальнокомандне місце у підсумковій таблиці.

20.06
Подробиці
Фото: з відкритих джерел

Спроба втечі обернулась для мобілізованого важкими травмами.

20.06
Люди і проблеми
Фото unsplash.com

Тепер кількість записів - лімітована. Фізична особа може 4 рази реєструватися через систему на місяць, а юридична - 4 рази на поточний день.

20.06
Подробиці
Фото: АрміяІнформ

Окупанти почали використовувати мотоцикли, а не бронетехніку.

20.06
Люди і проблеми
Фото Н. Д.

Нерідко поліцейські притягують водіїв до відповідальності неправомірно. Але їхні дії можна оскаржити.

20.06
Подробиці
Фото: т-к Bild

Пєсков від імені Путіна висловив російську позицію щодо війни між Ізраїлем та Іраном.

20.06
Подробиці
Фото: РосЗМІ

Трапилось це в Україні на Куп'янському напрямку.

20.06
Подробиці
Фото: ДСНС

Цієї ночі ворог накинувся на Південну Пальміру: знищено будинки, магазини, автівки...

20.06
Подробиці
Фото: oa.edu.ua

Війська очолив генерал із досвідом міжнародної співпраці.

19.06
Подробиці
В Одесі знайшли тіло зниклої семирічної дівчинки: підозрюваний був у розшуку ТЦК

Зловмисник помістив тіло жертви у коробку і вивіз за кілька кварталів.

19.06
Подробиці
Фото ілюстративне: km-oblrada.gov.ua

“Швидка” приїхала через 12 хвилин після виклику, але медики не встигли врятувати мобілізованого.

19.06
Подробиці
Безугла накинулась на Єфросиніну після того, як ведуча обізвала нардепку матом

Народна обраниця дорікнула телезірці чоловіком, який служить у Києві.

19.06
Подробиці
Алабуга, Татарстан, фото з відкритих джерел

Північна Корея розглядає можливість відправити робітників на завод з виробництва безпілотників у Росії в обмін на навчання управлінню безпілотними літальними апаратами.

19.06
Подробиці
Фото: facebook.com/koordshtab

З полону Росії додому повернулись наші захисники: у всіх них проблеми зі здоров'ям. Черговий етап обміну відбувся сьогодні, 19 червня.

19.06
Подробиці
Фото: facebook.com/delyatynskaotg

Війна з окупантами забрала життя молодого воїна: на фронті загинув 26-річний легкоатлет Віталій Римарук. Він був чемпіоном України з метання диска.

19.06
Подробиці
Скриншот з відео

Обмін полоненими: пропагандисти Кремля заявили, що в Україні більше нема російських солдатів на обмін, мовляв, РФ повернула всіх "своїх" додому.

19.06
показати більше