Společnost Anthropic řeší nepříjemný problém týkající se svého chatbota Claude AI. Uživatelé na Redditu zjistili, že některé sdílené konverzace bylo možné najít pomocí jednoduchého dotazu ve vyhledávání Google. Firma na situaci zareagovala rychle a indexaci zablokovala, případ ale znovu otevřel otázku ochrany soukromí při používání AI chatbotů.
Claude veřejné chaty byly součástí indexace vyhledávačů
Uživatelé zjistili, že dotaz site:claude.ai/share zobrazoval veřejně přístupné odkazy na sdílené konverzace. Mezi nimi byly běžné diskuse o programování nebo aktuálních událostech, ale také velmi osobní témata. Některé z nich údajně mohly obsahovat citlivé informace. Krátce po zveřejnění problému přestaly výsledky z Googlu fungovat, což naznačuje, že Anthropic indexaci rychle zablokoval.
Zdroj: ZDNET
Dobrou zprávou je, že soukromé konverzace nebyly nijak kompromitovány. Claude standardně uchovává chaty jako neveřejné. Problém se týkal pouze konverzací, u kterých uživatelé sami využili funkci Share. Ta vytvoří veřejný odkaz na konkrétní konverzaci, který lze poslat dalším lidem. Ukázalo se ale, že tyto odkazy mohly následně indexovat internetové vyhledávače. Anthropic uvedl, že nesdílí se službami jako Google seznamy ani mapy těchto odkazů. Pokud však uživatel veřejný odkaz vytvoří a někde jej zveřejní, může jej třetí strana archivovat nebo zařadit do výsledků vyhledávání.
Zdroj: zdnet.com