Rastislav Búgel Technológie

NBÚ varuje pred AI DeepSeek! SLEDUJE vás na každom kroku a dáta posiela do ČÍNY

Umelá inteligencia DeepSeek sa stala hitom. Jej používanie by ste si ale mali dobre premyslieť.

Ilustračný obrázok k článku NBÚ varuje pred AI DeepSeek! SLEDUJE vás na každom kroku a dáta posiela do ČÍNY
Zdroj: AP Photo/Andy Wong

Technickou témou číslo jedna je už niekoľko dní čínska umelá inteligencia DeepSeek. Hoci jej popularita rastie, niektoré úrady pred ňou varujú. Jedným z nich je aj slovenský Národný bezpečnostný úrad (NBÚ).

Toto nevyzerá dobre!

„Národný bezpečnostný úrad upozorňuje, že DeepSeek zbiera od používateľov dáta v oveľa väčšom rozsahu ako konkurencia. Dáta zahŕňajú dokonca presné časovanie stlačení jednotlivých klávesov, zadané pokyny (prompty), heslá, vkladané obrázky, audio súbory, dokumenty, ale aj IP adresu počítača, z ktorého je služba DeepSeek využívaná, systémový jazyk a podobne,“ varuje NBÚ s tým, že tieto informácie sú následne ukladané na servery v Číne.

Pri používaní DeepSeek nemáte nad dátami takú kontrolu, ako v prípade konkurencie. Iné známe riešenia totiž špecifikujú, ako dlho sú dáta ukladané a poskytujú funkciu dočasného chatu, pričom je podľa NBÚ narábanie s údajmi transparentnejšie.

„Na základe porovnania pravidiel ochrany súkromia DeepSeek a OpenAI, zbiera čínsky model viac dát, ako americký OpenAI. Rozdiel je aj v tom, kde sa dáta ukladajú. V EÚ, v ktorej OpenAI deklaruje súlad s GDPR, máme robustný systém na ukladanie a ochranu dát pred ich zneužitím. Tento koncept v Číne chýba. Naopak, súkromné dáta sú tam aktívne využívané pre potreby komunistickej strany (štátu),“ dodáva Národný bezpečnostný úrad.

V prípade DeepSeek ide o podobný problém, ako má TikTok – potenciálne zneužitie zhromažďovaných dát.

Ako tomu zabrániť?

„To, že prompty sú priamo posielané, môže viesť k budovaniu profilu osoby, prípadne jeho zamestnania. Údaje o systémoch používateľov, ako typ systému či jazyk, môžu slúžiť pre potrebu kybernetických útokov, kedy sú napríklad známe zraniteľnosti pre určité systémy v určitom nastavení, čo môže uľahčiť útočníkom cestu do systému,“ uvádza NBÚ.

Odborníci pridali aj jedno odporúčanie. Ak si chcete vyskúšať DeepSeek, no bojíte sa zberu dát, môžete využiť lokálny model. Teda taký, ktorý si priamo stiahnete do počítača.

Priniesol cenzúru

Jazykové modely sa postupne trénujú na obrovskom množstve dát. Po „natrénovaní“ ho ešte dolaďujú, aby sa vyhol odpovediam na určité otázky. Ide napríklad o odpovede, ktoré by mohli viesť k sexuálnemu zneužívaniu či návodom k ilegálnym aktivitám, ako je výroba drog či výbušnín.

„DeepSeek model aktívne cenzuruje informácie citlivé pre čínsky režim. Ak chcete napríklad od čínskeho jazykového modelu získať informáciu o protestoch na Námestí Tchien-an-men v roku 1989, pri ktorého potlačení režim zavraždil stovky občanov, četbot odmietne zobraziť odpoveď. DeepSeek teda kopíruje čínsky internet, ktorý je nastavený tak, že predvolene cenzuruje podobný obsah,“ upozorňuje Národný bezpečnostný úrad.

Ďalšie správy z domova i zo sveta nájdete aj na Dnes24, Facebooku a Instagrame.

Foto: ilustračné

Mohlo by vás zaujímať:

UPOZORNENIE NA AI MODEL Jazykový model DeepSeek je pre celý svet dostupný už takmer týždeň. Chváli sa spoľahlivosťou,...

Posted by Národný bezpečnostný úrad on Thursday, January 30, 2025
Zdroj: Dnes24.sk
Najčítanejšie na Dnes24.sk
Magazín
Najčítanejšie zo Slovenska
SLEDUJTE NÁŠ INSTAGRAM