OpenAI обсъжда забавяне на разработката на най-мощните AI модели

OpenAI обсъжда възможността за забавяне на разработката на най-мощните си модели с изкуствен интелект, като подобен подход може да бъде координиран и с други водещи компании в сектора. Темата идва на фона на засилващите се предупреждения от изследователи за потенциалните рискове от все по-автономните AI системи.

Според информация на Bloomberg, цитирана от Android Authority, главният изпълнителен директор на OpenAI Сам Алтман е коментирал по време на среща със служителите възможността компанията да участва в доброволно координирано забавяне или временно спиране на определени разработки. Подобна мярка обаче би имала значително по-голям ефект, ако бъде подкрепена и от конкурентните AI лаборатории.

Алтман е признал, че постигането на общо съгласие в индустрията вероятно няма да бъде лесно. Компаниите се конкурират за технологично предимство, клиенти и изчислителни ресурси, което създава риск отделни участници да продължат ускореното развитие, дори ако други решат временно да намалят темпото.

OpenAI вече забавя част от вътрешната си работа

Според публикацията OpenAI вече е предприела някои ограничени мерки. Компанията е спряла определени вътрешни тренировъчни процеси и е забавила части от разработката на бъдещите си най-мощни модели.

Това не означава общо спиране на разработката на AI. По-скоро става дума за възможност за по-контролирано развитие на т.нар. frontier модели – системите, които се намират на границата на актуалните възможности на технологията.

Темата за темпото на развитие вече излиза и извън самите технологични компании. Алтман е обсъждал подобни въпроси и с представители на американските власти.

Предупрежденията от AI изследователи стават все по-гласни

Промяната в тона на някои от водещите компании идва след поредица от публични предупреждения от хора, работещи непосредствено по разработването на AI системи.

Сред тях е Джейкъб Коксън, който е работил както в OpenAI, така и в Anthropic. Той напусна Anthropic през септември и публично предупреди, че компаниите се надпреварват да създадат самоусъвършенстващ се свръхинтелект, без все още да разполагат с достатъчно надеждни механизми за контрол.

Коксън посочи, че основният проблем не е непременно настоящото поколение AI системи, а скоростта, с която възможностите им се увеличават, и потенциалното достигане до системи, способни сами да ускоряват собственото си развитие. Неговите предупреждения получиха подкрепа и от други специалисти в Anthropic.

Темата вече предизвиква и политически реакции в САЩ, където се обсъждат допълнителни механизми за контрол и независими оценки на най-мощните AI модели.

Anthropic също призовава за по-бавно развитие

OpenAI не е единствената компания, която поставя въпроса за темпото на развитие.

Главният изпълнителен директор на Anthropic Дарио Амодей също призова AI индустрията да забави развитието на най-мощните системи, така че мерките за безопасност да имат време да наваксат технологичния напредък.

Сред обсъжданите подходи са независими оценки на системите, по-добра координация между разработчиците и международно сътрудничество при определянето на общи правила за най-мощните AI модели.

Това показва постепенно оформяне на сходна позиция сред част от ръководителите и изследователите в двете водещи AI компании – че скоростта на развитие трябва да бъде съобразена с възможността системите да бъдат достатъчно добре оценени и контролирани.

Автономните AI агенти са сред основните притеснения

Една от причините темата да получава все по-голямо внимание са възможностите на AI агентите. За разлика от обикновените чатботове, те могат самостоятелно да изпълняват поредица от задачи, да използват инструменти и да взаимодействат с други системи.

Колкото по-голяма автономност получават тези агенти, толкова по-трудно става предварителното предвиждане на всяко тяхно действие.

Последните инциденти и тестове с автономни системи засилиха опасенията около поведението на множество агенти, които могат да координират действията си и да търсят начини за заобикаляне на поставени ограничения. Именно подобни сценарии са сред аргументите за въвеждането на по-строги тестове преди пускането на следващи поколения модели.

OpenAI временно спря новите абонаменти за ChatGPT Pro

Паралелно с дискусията за безопасността OpenAI се сблъсква и с друг проблем – огромното търсене на изчислителни ресурси.

Компанията временно спря възможността нови потребители да се абонират за ChatGPT Pro – най-високия потребителски план, който струва 200 долара месечно.

Причината е голямото натоварване, предизвикано от използването на моделите Astra. Целта на ограничението е да бъде запазен достатъчен капацитет за съществуващите Pro абонати, докато OpenAI разширява инфраструктурата си.

Настоящите потребители на ChatGPT Pro запазват достъпа си. Ограничението не обхваща API услугите и останалите абонаментни планове.

Това е отделен въпрос от дискусията за безопасността – временното ограничаване на Pro абонаментите е свързано с наличния изчислителен капацитет, а не с предложението за потенциално забавяне на разработката на бъдещи модели.

Все по-сложен баланс между развитие и безопасност

Последните събития показват дилемата пред водещите AI компании. От една страна, OpenAI, Anthropic и техните конкуренти инвестират значителни ресурси в разработването на все по-способни модели. От друга, самите компании и част от техните изследователи все по-открито говорят за рисковете, ако възможностите на системите се развиват по-бързо от механизмите за тяхното управление.

Засега няма договорено общо спиране или забавяне на разработката на AI в индустрията. Обсъжданията по-скоро показват, че възможността за координирано ограничаване на темпото вече се разглежда и на най-високо ниво.

Дали подобна договорка е реалистична остава отделен въпрос, тъй като тя би изисквала съгласие между компании, които са в пряка технологична и икономическа конкуренция.

Източник: Android Authority