Компанія Anthropic оновила правила використання свого ШІ-асистента Claude. Відтепер вони прямо забороняють систематичне жорстоке поводження з чатботом без очевидної мети. 

Про це пише Verge.

Також компанія посилила обмеження щодо використання штучного інтелекту для розробки зброї, стеження за людьми та політичних маніпуляцій.

Чому Anthropic заборонила жорстоке поводження з Claude

Нові правила забороняють користувачам систематично ображати Claude або поводитися з ним жорстоко без очевидної причини.

Водночас Anthropic наголошує, що обмеження стосуватиметься лише крайніх випадків. Воно не поширюється на звичайне невдоволення відповідями чатбота, критику, творчі сценарії з похмурими темами або тестування моделей.

Основним способом реагування на таку поведінку залишатиметься припинення розмови. Чи планує компанія застосовувати інші заходи, наприклад блокування акаунтів, наразі невідомо.

Ще в серпні 2025 року Anthropic дозволила Claude завершувати діалоги з користувачами, які постійно поводяться агресивно або намагаються завдати шкоди моделі.

Це рішення пов'язане з дослідженнями компанії щодо можливого добробуту ШІ-моделей.