Дженсън Хуанг: AI лаборатории, които не могат да контролират системите си, трябва да затворят

Компаниите, които разработват изкуствен интелект, но не могат да контролират системите си по време на тестове, трябва да прекратят работата си. Това заяви главният изпълнителен директор на Nvidia Дженсън Хуанг в интервю за Езра Клайн от The New York Times, цитирано от TechSpot.

Според Хуанг разработчиците носят пряка отговорност за решенията си. Ако една компания смята, че даден продукт е опасен, тя може да го задържи и да не го пуска на пазара. А ако не е в състояние дори да ограничи системите, които тества, потенциалните щети и отговорността са твърде големи, за да продължи дейността си, посочва той.

Темата придобива по-голямо значение с развитието на AI агентите. За разлика от чатботовете, които основно генерират отговори, тези системи могат да използват външни инструменти, да изпълняват код и да взаимодействат със сайтове и софтуер. Така грешка или нежелано действие може да има последици извън самия разговор с потребителя.

Изказването на Хуанг идва на фона на призивите на компании като OpenAI и Anthropic за по-строги правила за напредналите AI модели. Той не отхвърля надзора, но смята, че при причинени вреди трябва да се прилагат и действащите закони и регулации. Позицията му е, че компаниите не бива да представят пускането на недостатъчно проверени продукти като нещо извън техния контрол.

Nvidia доставя голяма част от изчислителния хардуер, използван за обучение и работа на водещите AI модели. Затова позицията на Хуанг поставя въпроса за отговорността и пред компаниите, които са сред основните клиенти на Nvidia: кой взема решението една система да бъде пусната и кой отговаря, ако тя причини вреда.