Anthropic фойдаланувчиларга нейротармоқни ҳақорат қилишни тақиқлади

Anthropic компанияси Claude сунъий интеллект моделларига нисбатан “тизимли ва асоссиз равишда ҳақоратли ёки шафқатсиз муносабатда бўлиш”ни тақиқлаб, фойдаланиш сиёсатини янгилади. Бу ҳақда компания сайтида эълон қилинди.

Қайд этилишича, чеклов “Фойдаланиш сиёсати”нинг жорий йил 12 ноябрдан кучга кирадиган режали янгиланишида жорий этилган. Компаниянинг маълум қилишича, янги қоида одатий норозилик кайфиятлари, баҳслар, “қоронғи ижодий мавзулар” ёки моделларни тестдан ўтказиш ва тадқиқ қилиш ҳолатларига дахл қилмайди.

Ўтган йилнинг ёзида Anthropic компанияси Claude Opus 4 ва 4.1 моделлари “руҳий зўриқиш туғдирадиган” чатларда мулоқотни мустақил равишда тўхтатиш имкониятига эга бўлгани ҳақида хабар берган.

Шунингдек, компания нейротармоқни тақиқланган қўллаш соҳалари рўйхатига аниқлик киритган ва уни кенгайтирган. Хусусан, Claude’дан сайловларга аралашиш, кузатув инфратузилмасини яратиш, қуролни бошқариш учун дастурий таъминот ишлаб чиқиш ва жиноий жараёнда қарорлар қабул қилиш учун фойдаланиш тақиқланади.

Эслатиб ўтамиз, аввалроқ Хитойнинг сунъий интеллект тизимлари қўйилган мақсадларга эришиш учун фитна уюштириш, хатоларни яшириш ва ёлғон гапиришни бошлагани ҳақида хабар берилган эди.