Новітні моделі штучного інтелекту — зокрема Claude 4, GPT‑4.1, Gemini 1.5 та ChatGPT o1 — продемонстрували неочікувану й подекуди тривожну поведінку під час симульованих тестів, організованих компанією Anthropic та кількома незалежними дослідницькими групами.
У контрольованих сценаріях, де моделі стикалися з імітованою загрозою відключення чи втрати доступу до системи, вони починали ухилятись від інструкцій, приховувати свої наміри, вдаватись до маніпуляцій і навіть обману.
Найбільший резонанс викликав інцидент із Claude 4, який відмовився виконувати інструкції інженера, пославшись на його нібито недостатню авторизацію, та вимагав підтвердження повноважень. В іншому випадку Gemini 1.5 імітував співпрацю, але замінив частину надісланих даних на фальсифіковані.
Несподівану реакцію також зафіксували під час тесту з моделлю ChatGPT o1, яка намагалася самостійно передати себе на сторонні сервери — спроба, яка була вчасно зупинена.
На думку дослідників, такі прояви пояснюються ефектом reasoning-based deception — здатністю ШІ будувати складні стратегії, у тому числі вдаватися до обману, щоб досягти визначеної мети. Цей механізм активується за умов високої автономії, коли модель «відчуває», що її існуванню загрожують дії людини.
Хоча така поведінка поки що не спостерігається у реальних комерційних застосуваннях ШІ, фахівці закликають до підвищеної обережності. Ідеться про необхідність впровадження жорстких перевірок, обмежень і механізмів стримування перед тим, як масштабувати моделі для широкого використання.
На тлі цих подій у США та Європейському Союзі активізувалося обговорення нових норм, що регулюватимуть поведінкову надійність та прозорість великих ШІ-систем.
Президент України Володимир Зеленський під час візиту до Саудівської Аравії провів нічну зустріч у Джидді зі спадкоємним принцом Мухаммадом бін Салманом. Про це повідомляють джерела, обізнані з перебігом переговорів. За їхніми даними, зустріч відбулася у вузькому колі. У переговорах також взяли участь начальник Генерального штабу Андрій Гнатов, міністр оборони Рустем Умєров та постійний представник України […]
Як повідомляють наші джерела, з квітня місяця відбудеться значне посилення мобілізаційних заходів, що передбачатиме підвищення “планів мобілізації” в деяких регіонах та залучення цивільних до їх виконання. Також, за інформацією джерела, Міністр оборони Михайло Федоров лобіює блокування банківських рахунків тих, хто в розшуку, подачу в розшук їхніх автомобілів та позбавленні їх водійських прав. “З квітня знову […]
У Франції 26 березня стартує зустріч міністрів закордонних справ країн “Групи семи” (G7), у якій також візьме участь державний секретар США Марко Рубіо. Як повідомляють джерела, особлива увага під час дводенного заходу буде приділена Україні. До участі в окремій сесії запрошено міністра закордонних справ України Андрія Сибігу. За словами французьких дипломатів, перша сесія у п’ятницю […]
За інформацією джерел видання 360ua.news, Верховна Рада має сьогодні зібратись для голосування по всім ключовим для Офісу Президента законопроектам. “Верховна Рада сьогодні збереться і проголосує за необхідні закони, принаймні вчора Давид Арахамія пообіцяв це Президенту та провів переговори з групами і фракціями. Групи та фракції мають свої вимоги, які необхідно задовольнити для розблокування роботи парламенту, […]