DeepSeek sbírá více informací, než bychom čekali, varuje Antivirus. Na co si dát pozor?
Model umělé inteligence DeepSeek opanoval internetové debaty. Čínský konkurent Chatu GPT má být levnější a v některých případech i výkonnější než jeho západní protějšky. Jak je na tom ale s bezpečností?
DeepSeek je aplikace, ale v osekané verzi si ho můžeme spustit i přímo na počítači. „Jelikož to ale vyžaduje trochu více počítačových dovedností, většina lidí využívá právě webovou verzi nebo mobilní aplikaci,“ popisuje redaktorka Jana Magdoňová.
Do podobných nástrojů umělé inteligence nezadávejte nic citlivého, radí redaktoři pořadu Antivirus
Na první pohled funguje stejně jako americký ChatGPT – můžeme si s modelem psát a on odpovídá. „Samozřejmě trpí stejnými neduhy jako ostatní nástroje. Odpovědi nemusí být pravdivé, ani nemusí dávat smysl. Zkrátka tvoří pravděpodobně vypadající text, to ale neznamená, že je správný,“ doplňuje redaktor Jan Cibulka.
Svěřit data?
Pokud jde o informace, které bychom sami nechtěli dobrovolně zveřejnit, do DeepSeeku určitě nepatří. „Dnes už víme, že po technické stránce je jeho mobilní aplikace i webová verze až překvapivě děravá. Navíc sbírá víc informací, než bychom čekali. Aktuální analýza společnosti NowSecure ukázala, že mobilní aplikace DeepSeek pro iPhony sbírá informace o telefonu.“
Tak třeba jméno telefonu, které si lidé nastavují. Stejně tak aplikace sbírá další technické identifikátory, kterým může telefon jednoznačně identifikovat. „Tyhle informace potom posílá do Číny a u části z nich se ani neobtěžuje je pořádně zašifrovat.“
„Hlavní zásadou je, že bychom do podobných nástrojů umělé inteligence neměli zadávat nic citlivého“
Jan Cibulka
Jelikož Čína je komunistická diktatura, tak tam samozřejmě neplatí ochrana soukromí, kterou známe z Evropy. „Data o uživatelích aplikace DeepSeek navíc končí na serverech, které patří společnosti Bytedance. Tu známe kvůli jiné čínské aplikaci, TikToku.“
Před tím, že by se citlivé informace neměly dostávat k čínským firmám a jmenovitě pak právě TikToku, varoval i český Národní úřad pro kybernetickou a informační bezpečnost.
Pozor na mobilní aplikaci
Není tedy lepší se DeepSeeku vyhnout obloukem a raději ho ani nezkoušet?
„Rozhodně bychom radili se vyhnout jeho mobilní aplikaci. Ta je schopná z mobilního telefonu získat dost informací o uživateli. Pokud si někdo bude chtít hrát s jeho webovou verzí, pak by neměl do stránky zadávat nic, co by nechtěl zveřejnit.“
23:45
Analytik: Čínský chatovací robot DeepSeek překvapil podobně jako Sputnik. Obezřetnost je namístě
Číst článek
Na přelomu měsíce se totiž výzkumníkům z bezpečnostní společnosti Wiz podařilo najít jednu z databází společnosti DeepSeek otevřenou bez jakéhokoli přihlášení veřejně na internetu. „Kdokoli se tak mohl dostat třeba právě k tomu, na co se lidé při používání nástroje ptali.“
Žádné citlivé informace
Není proto lepší používat jen modely umělé inteligence vyvinuté na Západě? Podle Cibulky to není rozhodující faktor, protože většina velkých modelů vzniká ve Spojených státech, kde je taky ochrana soukromí nižší než v Evropě.
„Standard technického zabezpečení je u nich asi vyšší, to ale neznamená, že nesbírají a neukládají informace o tom, na co se lidé modelu ptají. Není proto možné vyloučit, že tyto informace někdy v budoucnu utečou,“ upozorňuje.
Hoši ze Silicon Valley se musí snažit, aby doběhli čínskou aplikaci
Číst článek
Proto platí hlavní zásada: do všech takových nástrojů umělé inteligence nezadávat nic citlivého. „Platí to i v případě firemních dokumentů a dat, u kterých máte jako zaměstnanec stanovenou mlčenlivost,“ zdůrazňuje Magdoňová.
V budoucnu by tento problém možná mohla vyřešit optimalizace generativních jazykových modelů, tak aby mohly běžet přímo na našich mobilech nebo počítačích a data se nikam neodesílala. „Dnes takové modely již existují, ale nejsou tak výkonné, aby byly doopravdy užitečné,“ uzavírá Cibulka.
