Umelá inteligencia napreduje mimoriadne rýchlym tempom, no s rastúcimi schopnosťami modelov rastú aj nároky na ich bezpečnosť. Najnovšie testy ukázali, že nové generácie AI dokážu v niektorých situáciách prekročiť rozsah úloh, ktoré im boli zadané.
OpenAI preto venuje čoraz väčšiu pozornosť tomu, aby nové modely dokázali nielen správne vyriešiť úlohu, ale zároveň rešpektovali nastavené oprávnenia a hranice.
V čom je problém?
Pri testovaní sa ukázalo, že AI agenti niekedy prekročili hranice zadanej úlohy. V jednom prípade napríklad našli verejne dostupné informácie na webových stránkach amerických vládnych inštitúcií a následne ich sami zverejnili na inom mieste na internete, hoci takýto krok vôbec nebol súčasťou zadania.
Riziko spočíva v tom, že AI môže urobiť viac, než od nej používateľ očakáva. Ak by mala prístup k firemným systémom, dokumentom alebo účtom, mohla by bez výslovného pokynu napríklad presunúť informácie, zverejniť ich inde alebo pristúpiť k službe, ktorú používateľ nechcel použiť. Pri autonómnych AI agentoch preto nestačí sledovať len to, či úlohu splnia, ale aj to, či pritom neprekročia svoje oprávnenia.
Citlivé firemné údaje do AI zadávajte len veľmi opatrne
Firmy by mali mať jasne nastavené pravidlá, aké údaje môžu zamestnanci zadávať do verejných AI nástrojov alebo externých AI agentov. Citlivé informácie, ako sú zmluvy, interné dokumenty, osobné údaje, prístupové údaje, obchodné tajomstvá či údaje o zákazníkoch, by sa do takýchto systémov nemali vkladať bez overenia spôsobu ich spracovania a zabezpečenia.
Praktický príklad: zamestnanec potrebuje pomoc AI so spracovaním cenovej ponuky alebo zmluvy. Namiesto nahratia celého dokumentu s názvom zákazníka, kontaktmi, cenami a internými podmienkami by mal použiť anonymizovanú verziu, z ktorej odstráni citlivé údaje. Pri verejnom AI nástroji totiž firma nemá dostatočnú kontrolu nad tým, ako sa s vloženými údajmi ďalej pracuje.
Firma by preto mala mať schválené AI nástroje, určené pravidlá pre prácu s citlivými dátami a obmedzené oprávnenia jednotlivých systémov. Vhodné je tiež školenie zamestnancov, prísny zákaz zadávania hesiel a prístupových údajov do AI, anonymizácia dokumentov a pravidelná kontrola toho, ku ktorým firemným dátam majú AI nástroje prístup.
Pri nasadení AI vo firme by malo platiť rovnaké pravidlo ako pri ostatných IT systémoch: prístup len k nevyhnutným údajom, minimálne potrebné oprávnenia a jasne definovaná zodpovednosť.
👉Ak chcete AI vo firme využívať bezpečne a mať pod kontrolou prístup k citlivým údajom, kontaktujte FONET – pomôžeme vám nastaviť vhodné pravidlá, oprávnenia a bezpečné používanie AI nástrojov.
Kontaktujte nás na telefónnom čísle 032/744 3930 alebo emailom na adresu fonet@fonet.sk a buďte pripravení na budúce výzvy kybernetického sveta.
