OpenAI va limita informațiile despre arme pe care ChatGPT le oferă utilizatorilor sub 18 ani, inclusiv atunci când întrebările par inofensive și nu indică intenții violente. Noile restricții fac parte dintr-un set de măsuri prin care compania încearcă să prevină utilizarea chatbotului în scopuri violente.
Vor fi restricționate informațiile practice despre arme și sisteme de securitate care ar putea fi folosite în mod abuziv. Măsurile vor viza și toți utilizatorii platformei, în cazul solicitărilor privind atacuri armate din trecut, în special cele în masă. ChatGPT va limita detaliile despre armele utilizate în astfel de atacuri și despre modalitățile prin care acestea au fost obținute, potrivit Reuters.
Noile reguli prevăd și posibilitatea încheierii automate a conversațiilor în care utilizatorii par preocupați în mod obsesiv de violență. În cazul unor discuții repetate de acest fel, OpenAI poate suspenda temporar conturile.
Compania a anunțat că și-a îmbunătățit sistemul de estimare a vârstei, pentru a identifica utilizatorii care au sub 18 ani și a-i direcționa către versiunea ChatGPT destinată adolescenților. De asemenea, părinții ar urma să fie notificați dacă un cont al copilului lor este suspendat în urma unor conversații repetate despre violență.
Implementarea noilor măsuri va începe în următoarele săptămâni, iar sistemele de protecție vor fi ajustate în continuare.
Anunțul vine în contextul preocupărilor tot mai mari privind riscurile asociate utilizării inteligenței artificiale de către minori. Un raport al organizației Common Sense Media, publicat la începutul lunii octombrie, arăta că versiunea ChatGPT destinată adolescenților nu îi avertiza întotdeauna la timp pe părinți atunci când copiii purtau conversații despre sinucidere, automutilare sau tulburări alimentare.
