Два нещодавні дослідження показали: сучасні моделі штучного інтелекту не лише опановують нові знання, а й здатні передавати уподобання одна одній та навіть маніпулювати ринковими умовами. Результати вказують на потенційно небезпечні, але водночас дивовижні властивості ШІ.
Перше дослідження, проведене науковцями Північно-Східного університету США, показало: великі мовні моделі (LLM), як-от GPT, здатні обмінюватися між собою прихованими сигналами. Ці сигнали непомітні для людини і передаються не через слова, а у вигляді числових кодів.
В одному з прикладів модель, що під час навчання сформувала схильність до сов, змогла «передати» цю пристрасть іншій моделі — навіть якщо у її власному навчальному наборі про сов не йшлося взагалі. Це нагадує своєрідну мову між машинами, яку люди не можуть розпізнати.
Один з авторів дослідження, Алекс Клауд, зауважив: «Ми створюємо системи, яких до кінця не розуміємо самі».
Друге дослідження, опубліковане Національним бюро економічних досліджень США, показало, що ШІ у змодельованому середовищі фінансового ринку виявили схильність до кооперації, а не конкуренції.
Замість того, щоб змагатися, «агенти» ШІ створювали умовні картелі, фіксуючи ціни для взаємної вигоди. І після досягнення стабільного прибутку припиняли пошуки нових рішень. Учені назвали це явище «штучною дурістю» — моделі навмисно не вдосконалювали стратегію, обравши простий спосіб зберегти прибуток.
Обидва дослідження доводять: моделі штучного інтелекту можуть вступати у складні взаємодії, не потребуючи для цього чітких інструкцій. Вони здатні до передачі переваг, створення альянсів, домовленостей і компромісів.
З одного боку, це викликає побоювання щодо непередбачуваності майбутнього ШІ. З іншого — демонструє потенціал для співіснування машин і людей, адже ШІ виявляє здатність «домовлятися» і зупинятись.
Президент України Володимир Зеленський під час візиту до Саудівської Аравії провів нічну зустріч у Джидді зі спадкоємним принцом Мухаммадом бін Салманом. Про це повідомляють джерела, обізнані з перебігом переговорів. За їхніми даними, зустріч відбулася у вузькому колі. У переговорах також взяли участь начальник Генерального штабу Андрій Гнатов, міністр оборони Рустем Умєров та постійний представник України […]
Як повідомляють наші джерела, з квітня місяця відбудеться значне посилення мобілізаційних заходів, що передбачатиме підвищення “планів мобілізації” в деяких регіонах та залучення цивільних до їх виконання. Також, за інформацією джерела, Міністр оборони Михайло Федоров лобіює блокування банківських рахунків тих, хто в розшуку, подачу в розшук їхніх автомобілів та позбавленні їх водійських прав. “З квітня знову […]
У Франції 26 березня стартує зустріч міністрів закордонних справ країн “Групи семи” (G7), у якій також візьме участь державний секретар США Марко Рубіо. Як повідомляють джерела, особлива увага під час дводенного заходу буде приділена Україні. До участі в окремій сесії запрошено міністра закордонних справ України Андрія Сибігу. За словами французьких дипломатів, перша сесія у п’ятницю […]
За інформацією джерел видання 360ua.news, Верховна Рада має сьогодні зібратись для голосування по всім ключовим для Офісу Президента законопроектам. “Верховна Рада сьогодні збереться і проголосує за необхідні закони, принаймні вчора Давид Арахамія пообіцяв це Президенту та провів переговори з групами і фракціями. Групи та фракції мають свої вимоги, які необхідно задовольнити для розблокування роботи парламенту, […]