Anumite texte generate de ChatGPT și Codex pentru utilizatorii din Uniunea Europeană vor primi, în următoarele săptămâni, un watermark invizibil. Marcajul nu va putea fi observat la citirea textului, însă va putea fi detectat cu ajutorul unui instrument special. OpenAI introduce sistemul pentru a răspunde cerințelor europene privind identificarea conținutului generat de inteligența artificială.
Tehnologia poartă denumirea „textGrain” și nu presupune adăugarea unei etichete, a unui simbol sau a unui mesaj vizibil. În schimb, sistemul introduce un semnal statistic invizibil prin modul în care modelul își alege cuvintele. Un detector poate căuta ulterior acest semnal pentru a estima dacă un fragment conține watermarkul OpenAI.
Compania explică măsura prin cerințele EU AI Act, potrivit cărora furnizorii de inteligență artificială generativă trebuie să facă textele generate identificabile într-o formă care poate fi citită automat.
Implementarea va avea loc treptat. Din 5 octombrie, clienții API din întreaga lume pot activa opțional watermarkul pentru anumite modele. În cazul utilizatorilor eligibili ChatGPT și Codex din UE, acesta va începe să fie introdus în următoarele săptămâni și va viza toate tipurile de abonamente.
OpenAI avertizează însă că watermarkul nu reprezintă o „amprentă” imposibil de șters și nicio dovadă absolută că un text a fost generat de inteligența artificială.
Testele companiei arată că detectorul funcționează mai bine în cazul textelor mai lungi. La o rată-țintă de rezultate fals pozitive de 1%, watermarkul a fost identificat în aproximativ 80% dintre anumite texte de 200 de tokeni și în aproximativ 95% dintre cele de 400 de tokeni.
Editarea textului poate slăbi însă considerabil semnalul. Într-un test efectuat pe fragmente de 400 de tokeni, înlocuirea a 10% dintre cuvinte cu sinonime a redus rata de detectare de la aproximativ 92% la 66%. La înlocuirea unui sfert dintre cuvinte, aceasta a coborât până la 17%.
Din cauza acestor limite, detectorul nu va fi disponibil inițial publicului larg. Accesul va fi acordat cercetătorilor și organizațiilor specializate aprobate de companie.
OpenAI subliniază și că watermarkul nu dezvăluie cine a generat textul. Sistemul nu identifică utilizatorul, contul, organizația, conversația sau promptul folosit și nici nu poate stabili cât dintr-un material a fost scris de un om și cât de inteligența artificială.
De asemenea, detectarea watermarkului nu spune nimic despre corectitudinea informațiilor și nu stabilește cine deține sau cine este responsabil pentru conținut. Nici lipsa unui watermark detectabil nu demonstrează că materialul a fost scris de un om. Semnalul poate deveni dificil de identificat dacă textul este prea scurt, a fost modificat sau tradus.
Pentru moment, introducerea implicită a watermarkului în ChatGPT și Codex va fi limitată la Uniunea Europeană. OpenAI spune că tehnologia va fi ajustată în funcție de rezultatele obținute în utilizarea reală și de evoluția standardelor și reglementărilor.
