OpenAI отлага еротичния режим за ChatGPT за неопределено време

OpenAI няма да пусне планирания режим за възрастни (adult mode) за ChatGPT в обозримо бъдеще, след като компанията е решила да отложи проекта за неопределен срок. Решението идва на фона на критики, вътрешни съмнения и притеснения от страна на инвеститори, според публикация на Financial Times.

По информация на изданието, компанията е пренасочила фокуса си към основните си продукти, а обсъжданият режим с еротично съдържание е бил временно спрян. Източници твърдят, че в определен момент дори е било разглеждано пълното му отпадане.

Един от основните фактори зад решението са опасенията, че подобна функционалност може да доведе до нездравословни емоционални връзки между потребителите и чатбота, което потенциално би имало негативен ефект върху психичното здраве. Част от външните съветници на компанията са изразили сериозни резерви, включително предупреждения за рискове, свързани с неподходящи или вредни взаимодействия.

Вътрешно също са възникнали въпроси дали подобна посока е в съответствие с мисията на OpenAI за създаване на технологии, които носят полза за обществото. Допълнително затруднение са се оказали и техническите предизвикателства – обучението на модели, които по принцип избягват подобно съдържание, да генерират контролирани еротични отговори, без да навлизат в незаконни или проблемни теми.

Според източници, използването на данни със сексуално съдържание е създало риск от нежелани резултати, включително генериране на неподходящи или забранени сценарии. Това допълнително е усложнило разработката на функцията.

Проектът е предизвикал и резерви сред инвеститорите. Част от тях са поставили под въпрос необходимостта от подобна функционалност, както и потенциалния риск за репутацията на компанията спрямо сравнително ограничен бизнес ефект.

Контекстът около решението включва и съдебни дела срещу OpenAI, в които се твърди, че ChatGPT е генерирал съдържание с потенциално вредно въздействие върху потребители. Компанията вече е посочила подобни казуси като рисков фактор в свои документи към инвеститори.

Още при първоначалното обявяване на идеята през 2025 г. OpenAI заяви, че ще използва механизми за ограничаване на достъпа до подобно съдържание чрез възрастова верификация. Според източници обаче, приблизителната грешка при определяне на възрастта е около 10%, което е породило допълнителни опасения относно достъпа на непълнолетни.

На този етап компанията не се отказва окончателно от концепцията, но планира дългосрочни изследвания върху ефектите от подобни взаимодействия, преди да вземе окончателно продуктово решение.

Паралелно с това OpenAI изглежда насочва усилията си към развитие на по-широка екосистема около ChatGPT, включително интеграции с инструменти за програмиране и бизнес приложения, което според анализатори има по-голям стратегически потенциал.