Anthropic въвежда ограничения за системно агресивно поведение към Claude

Anthropic обновява правилата за използване на Claude с ограничение срещу продължително и ненужно агресивно или жестоко поведение към AI моделите си, съобщава TechSpot. Промените влизат в сила на 12 ноември 2026 г. и обхващат също подвеждащи кампании, човешки контрол в чувствителни области и работа с потенциално опасно оборудване.

Новото правило не означава, че всяка обида или остра реплика към чатбота ще води до санкция. Според компанията то се отнася до крайни случаи на повтарящо се поведение без различима цел. Обичайните прояви на раздразнение, несъгласието с отговорите, мрачните творчески теми, както и тестването и изследването на моделите остават извън обхвата му.

Основният механизъм за прилагане ще бъде възможността Claude да прекратява подобни разговори. Anthropic въведе тази функция през август 2025 г. за редки случаи на продължителни вредни или агресивни взаимодействия. Компанията я свърза с проучванията си за потенциалното благосъстояние на AI системите — изследователска посока, която сама по себе си не доказва, че моделите имат чувства или съзнание.

По-широката политика на Anthropic допуска предупреждения, ограничения, временно спиране или прекратяване на достъпа. Това означава, че блокиране на акаунт е възможна мярка, но не е представено като автоматична последица от груба реплика към Claude.

Актуализацията обединява и съществуващи ограничения срещу политическа и търговска манипулация, включително мрежи от фалшиви акаунти и измислени новинарски сайтове. Уточнява се също, че Claude не може да препоръчва на полицията кого да разследва или арестува. Същевременно Anthropic премахва общата забрана за персонализирано насочване към избиратели в кампании, като запазва ограниченията срещу измама и възпрепятстване на гласуването.

В области като здравеопазване и финанси са уточнени изискванията за човешки надзор. При управление на потенциално опасен хардуер квалифициран оператор трябва да може да наблюдава работата и да спира оборудването. То трябва да остава безопасно и при прекъсване на връзката с Claude.

Други промени засягат софтуера за оръжия, наблюдението и интимните изображения без съгласие. Уточняват се и ограниченията за достъп от неподдържани региони, включително за компании, които са мажоритарно притежавани или контролирани от лица или организации, базирани в такива региони.