Google si posvítí na aplikace využívající generativní umělou inteligenci

Dnes se nabízí i již mnoho služeb s generativní umělou inteligencí, kde stačí zadat příkaz a například dojde k vygenerování obrázku podle kritérií. To se týká i konverzačních generativních chatbotů. Google si nyní posvítí na aplikace, které nabízí takové funkce.

Obsah generovaný umělou inteligencí

Už nyní se objevily služby, které nemají etické zábrany a ani se neobtěžují chránit soukromí. Ve výsledku vzniká ilegální obsah obsah, případně klamavý. Zatímco na internetu si musíme dát pozor, tak u aplikací je to trochu jinak. Google nechce podobné služby v Obchodě Play.

Od 31. ledna 2024 začnou platit nová pravidla pro aplikace využívající generativní umělou inteligenci. Vývojáři budou muset dodržovat všeobecné zásady Google Play, což znamená, že takový systém nesmí generovat obsah umožňující využívání nebo obtěžování dětí, případně generovat obsah s cílem klamavého chování.

Zdroj: 9to5google

Navíc všechny tyto aplikace budou muset mít implementovanou možnost zpětné vazby od uživatelů, například pro nahlášení nevhodného obsahu.

Aplikace, které generují obsah pomocí umělé inteligence, musí obsahovat funkce, pomocí nichž mohou uživatelé vývojářům nahlásit urážlivý obsah, aniž by aplikaci museli opustit. Vývojáři by uživatelská hlášení měli používat k filtrování a moderování obsahu v aplikacích.

Jednoduše se zavedou takové restrikce, aby se neobjevovaly aplikace, které mohou napomoci k nevhodnému chování, nebo vytváření obsahu, který by mohl někomu ublížit.

Zdroje: theverge.com, 9to5google.com