OpenAI работи по проект, който „може да застраши човечеството“

В нов доклад сега се разкрива „мощно откритие на изкуствения интелект, което може да застраши човечеството“, което се смята за един от факторите, довели до отстраняването на Олтман от шефското място в OpenAI (създателите на ChatGPT). Припомняме, че в последствие той беше възстановен на позицията.

Ройтерс публикува доклад за писмо, което няколко изследователи са написали до предишния съвет на директорите на OpenAI. Това писмо е съдържало зловещо предупреждение за откритието на изкуствения интелект. Компанията отказа да коментира, когато изданието се свърза с OpenAI относно писмото. Впоследствие тя призна във вътрешно съобщение до служителите, че OpenAI има проект, наречен Q* (Q-Star), и писмо, което изследователи от персонала са изпратили до предишния съвет на директорите.

Съобщението на служителите е изпратено от Мира Мурати, която някога е била главен технологичен директор в OpenAI и временен главен изпълнителен директор на компанията за два дни. Не е ясно каква роля е заемала тя по време на изпращането на съобщението на персонала. Съобщението предупреждава служителите за медийни истории, без да коментира тяхната точност.

Според Ройтерс някои служители смятат, че Q* може да бъде пробив в търсенето на изкуствен общ интелект (AGI) на OpenAI. AGI е автономна система, която превъзхожда хората в повечето икономически ценни задачи. Твърди се, че новият модел Q* е решил някои математически проблеми, което прави изследователите оптимисти за бъдещия му успех.

Твърди се, че в писмото на щатните изследователи до предишния съвет са били отбелязани уменията на ИИ и потенциалната опасност. Изследователите са сигнализирали и за работата на „екип от учени по изкуствен интелект“, който е създаден чрез обединяване на екипите „Code Gen“ и „Math Gen“ в OpenAI. Този комбиниран екип е проучвал как да оптимизира съществуващите модели на ИИ, за да подобри разсъжденията им и евентуално да извършва научна работа.