Británia vyšetruje sieť X pre obvinenia z generovania sexualizovaných obrázkov detí
Britský regulačný orgán Ofcom informoval, že začal preverovanie sťažností týkajúcich sa sociálnej siete X, ktorú vlastní americký miliardár Elon Musk. Obvinenia sa týkajú funkcie umelej inteligencie s názvom Grok, ktorá údajne generuje falošné pornografické obrázky detí, informuje agentúra AFP.
„Boj proti nelegálnemu obsahu na internete a ochrana detí sú pre nás naďalej prioritou,“ uviedol hovorca Ofcomu vo svojom vyhlásení. Dodal, že sú si vedomí závažných obáv, ktoré vyvoláva funkcia Grok, produkujúca obrázky nahých osôb a sexualizované snímky detí.
Ofcom sa urýchlene obrátil na platformu X a startup xAI, aby zistil, aké kroky podnikli na splnenie zákonných povinností pri ochrane používateľov v Spojenom kráľovstve. V závislosti od prijatých odpovedí určí, či existujú problémy so splnením regulácií, ktoré si vyžadujú ďalšie vyšetrovanie.
Toto rozhodnutie nasleduje po vyhlásení Európskej únie, ktorá tiež oznámila, že „vážne prešetruje“ sťažnosti týkajúce sa groku. Tento nástroj ponúka „pikantný režim“, ktorý zobrazuje explicitný sexuálny obsah, vrátane niektorých generovaných obrázkov detí. „To nie je pikantné. To je nezákonné a desivé,“ povedal hovorca EÚ pre digitálne záležitosti Thomas Regnier.
Reprezentanti aplikácie Grok priznali, že našli nedostatky v ich nástroji umelej inteligencie, ktoré označili za „problémy so zabezpečením“. Zároveň uviedli, že na ich odstránení „naliehavo“ pracujú.
Podľa britského zákona o online bezpečnosti sú platformy, na ktorých sa môže zobraziť potenciálne nebezpečný obsah, povinné zaviesť prísne overovanie veku používateľov, a to prostredníctvom technológie, ako sú kontroly tváre alebo kreditné karty.
Je nezákonné, aby sociálne siete a weby vytvárali alebo šírili intímne materiály bez súhlasu dotknutých osôb, čo vrátane zahrňuje aj materiály zamerané na sexuálne zneužívanie detí, vrátane sexuálnych deepfakeov vytvorených umelou inteligenciou.
