Společnosti OpenAI a Anthropic představily nástroje pro automatickou detekci věku a další opatření zaměřená na ochranu mladistvých. Obě firmy tak reagují na rostoucí tlak veřejnosti i regulátorů: OpenAI upravuje pravidla pro interakci s uživateli ve věku 13–17 let, zatímco Anthropic pracuje na sofistikovaných metodách, které mají snížit rizika pro nezletilé.
Co mohou nová opatření zahrnovat
Implementovaná řešení obvykle směřují k omezení expozice citlivému obsahu a k vyšší míře dohledatelnosti zásahů. Mezi častá opatření patří:
- ověřování věku a odhad věku pomocí automatizovaných mechanismů,
- omezování přístupu k určitým typům informací nebo funkcí pro mladistvé,
- přísnější výchozí nastavení ochrany soukromí a bezpečnostních filtrů,
- možnosti pro rodičovskou kontrolu a nastavení,
- zlepšená transparentnost zásahů a zacházení s citlivými dotazy.
Proč je to důležité a jaká jsou rizika
Tyto změny mají snížit riziko škodlivého obsahu dostupného nezletilým a reagovat na regulační požadavky. Současně ale vyvolávají otázky týkající se přesnosti detekce věku, ochrany soukromí a možných falešně pozitivních zásahů, které mohou omezit legitimní používání služeb. Úspěch těchto opatření bude záviset na vyvážení účinnosti ochrany a respektování práv uživatelů.
Firmy uvádějí, že budou své postupy dál upravovat v reakci na technický vývoj, právní rámce a zpětnou vazbu uživatelů.
