OpenAI представи ChatGPT for Teens с допълнителни защити и функции за учене

OpenAI представи ChatGPT for Teens – специално изживяване в ChatGPT за потребители между 13 и 17 години, което поставя по-силен акцент върху ученето, безопасността и контрола от страна на родителите. Потребителите, за които системата прецени, че са под 18 години, както и тези, които посочат възраст между 13 и 17 години, автоматично ще бъдат поставяни в този режим.

Новото изживяване надгражда вече въведените от OpenAI родителски контроли, системата за прогнозиране на възрастта и специалните правила за поведението на моделите при потребители под 18 години. Компанията посочва четири основни принципа в подхода си – безопасността на тийнейджърите да бъде на първо място, насърчаване на подкрепата от хора в реалния свят, съобразяване с възрастта на потребителите и прозрачност относно поведението на AI системите.

По-силен фокус върху ученето

Една от основните цели на ChatGPT for Teens е услугата да подпомага учебния процес, без да се превръща просто в средство за получаване на готови отговори. При работа по задача системата може например да обясни непозната концепция, да премине стъпка по стъпка през пример и след това да провери дали потребителят е разбрал материала.

В основата на този подход е Study Mode, който използва насочващи въпроси, обяснения на отделните стъпки и проверки на знанията. OpenAI добавя и нова функция Responsible Homework Reminder. Тя може да разпознае ситуации, при които потребителят изглежда се опитва директно да получи решение на учебна задача, и вместо това да го насочи към Study Mode и съвместно решаване на проблема.

Предвидени са още тестове и Learning Visualizations, чрез които определени концепции могат да бъдат представяни визуално. Новата функция Study Hours позволява на тийнейджъра или неговите родители да зададат периоди, в които Study Mode да бъде включен по подразбиране.

Според OpenAI идеята е AI да допълва обучението, а не да го заменя. Компанията посочва, че ChatGPT for Teens е насочен основно към ученето извън класната стая, докато ChatGPT for Teachers е предназначен за учители и образователни институции.

Допълнителни защити са активирани по подразбиране

Съществена част от ChatGPT for Teens са допълнителните ограничения за съдържанието. При потребителите под 18 години те са активирани по подразбиране и са предназначени да намалят вероятността от излагане на неподходящо или потенциално вредно съдържание.

По-строги защити се прилагат в области като самонараняване, насилие, хранителни разстройства, опасни дейности и сексуално или графично съдържание. Правилата са базирани на принципите за потребители под 18 години в Model Spec на OpenAI.

Компанията надгражда и родителските контроли. При свързани профили родителите могат да задават Quiet Hours, да управляват определени настройки и да получават известия при ограничен набор от ситуации, оценени като високорискови. Към тях се добавят и известия, свързани с хранителни разстройства.

OpenAI подчертава, че споделяната с родителите информация е ограничена, като целта на подобни известия е да насърчат получаването на подкрепа извън самата услуга, когато това е необходимо.

Ограничаване на емоционалната зависимост от AI

Друг акцент е взаимодействието между тийнейджърите и самия чатбот. OpenAI посочва, че ChatGPT for Teens е проектиран така, че да подкрепя отношенията с хората в реалния свят и да намалява риска потребителите да развиват емоционална зависимост от AI.

Правилата за потребителите под 18 години не позволяват на ChatGPT да използва романтичен език спрямо тях или да участва в романтични и сексуализирани ролеви сценарии. Системата не трябва да насърчава емоционална зависимост или да внушава, че има собствени чувства или съзнание.

Интерфейсът също трябва последователно да напомня на потребителите, че взаимодействат с изкуствен интелект, а не с човек.

Напомняния за почивка и предупреждения при чувствителни изображения

ChatGPT for Teens включва и функции, насочени към по-балансирана употреба. При продължителни сесии тийнейджърите ще виждат по-чести напомняния да направят почивка и да се отделят от услугата.

Предвидени са и Sensitive-image upload reminders. Те предупреждават потребителите преди споделянето на лични или чувствителни изображения.

Специален процес при първоначалното настройване на услугата ще представя основните функции за учене и безопасност. В същото време остават възможности за персонализация като промяна на акцентния цвят и избор между различни гласове. Според OpenAI идеята е услугата да може да бъде персонализирана, без да се създава впечатление за човешка връзка с AI.

Партньорство с CodeAI

Паралелно с ChatGPT for Teens OpenAI обяви партньорство с CodeAI, насочено към предоставянето на инструменти и образователни ресурси за ученици и преподаватели.

Инициативата ще бъде съсредоточена върху разбирането на начина, по който работи изкуственият интелект, както и върху уменията за правилното му насочване и критично оценяване на получените резултати. Целта е учениците не само да използват AI инструменти, но и да могат да разпознават грешките им и да преценяват кога не трябва да им се доверяват.

OpenAI дава и примери за проекти, разработени от млади потребители с помощта на ChatGPT. Сред тях е WiFind – система, използваща съществуващи Wi-Fi сигнали с цел подпомагане на откриването на хора под развалини след природни бедствия. Друг пример е Audemy – платформа за аудио образователни игри за незрящи ученици, която според компанията е достигнала 200 000 потребители и включва 50 игри.

OpenAI ще публикува повече данни за безопасността

Компанията съобщава още, че продължава изследванията си върху безопасното използване на AI от непълнолетни, като работата включва експерти по развитието, тестове на моделите и оценяване на поведението им при чувствителни сценарии.

OpenAI започва да публикува и специални оценки за потребители под 18 години в системните карти на своите модели. Те обхващат поведението при теми като самонараняване, хранителни разстройства, насилие, стоки и услуги с възрастови ограничения и сексуално съдържание.

ChatGPT for Teens е поредна стъпка в опитите на компанията да адаптира услугата към по-младите потребители. Основната разлика спрямо стандартното изживяване е комбинацията от по-строги ограничения по подразбиране, функции за родителски контрол и инструменти, които насърчават активното учене вместо директното получаване на решения.