Umelá inteligencia vo firme a pravidlá EU AI Act/Vytvorené AI
Viete, ako vaši zamestnanci používajú umelú inteligenciu pri e-mailoch, prezentáciách či práci s dokumentmi? EU AI Act od firiem očakáva, že ľudia, ktorí s AI pracujú, rozumejú jej možnostiam, limitom aj rizikám.
Umelá inteligencia ovplyvňuje pracovné postupy v slovenských firmách
Aj vo vašej firme môže byť umelá inteligencia súčasťou bežnej práce bez toho, aby ste jej používanie oficiálne zaviedli. Zamestnanci môžu využívať vlastné účty a verejné nástroje, zatiaľ čo vy nemáte prehľad o tom, aké informácie do nich zadávajú ani ako výstupy ďalej používajú.
Skontrolujte si najmä tri veci:
- Ktoré AI nástroje ľudia používajú pri práci a či sú pre daný účel schválené?
- Nevkladajú do AI obsah e-mailov, cenové ponuky, zmluvy, kontaktné údaje klientov, údaje o zamestnancoch alebo interné dokumenty?
- Kto a ako overuje odpovede umelej inteligencie predtým, ako sa dostanú ku klientovi, do reportu, prezentácie alebo rozhodnutia?
Neberte výstup umelej inteligencie ako hotový a overený materiál. Aj profesionálne pôsobiaci text môže obsahovať neaktuálny údaj, nesprávne číslo alebo neexistujúci zdroj. Skôr, ako ho pošlete klientovi alebo podľa neho prijmete dôležité rozhodnutie, skontrolujte ho.
Schopnosť rozpoznať tieto situácie patrí k AI gramotnosti podľa článku 4 EU AI Act. Európske pravidlá vyžadujú, aby poskytovatelia a používatelia AI systémov prijímali opatrenia na podporu primeranej AI gramotnosti ľudí, ktorí s týmito systémami pracujú v ich mene.
EU AI Act a umelá inteligencia: Čo očakáva od vašej firmy?
Ak vo vašej firme používate umelú inteligenciu, týka sa vás EU AI Act – nariadenie EÚ, ktoré stanovuje pravidlá pre vývoj aj používanie AI systémov. Z pohľadu bežnej firmy je pre vás kľúčový najmä článok 4 o AI gramotnosti.
- Od 2. februára 2025 máte ako poskytovateľ alebo používateľ AI systému prijímať opatrenia na podporu primeranej AI gramotnosti zamestnancov a ďalších ľudí, ktorí umelú inteligenciu používajú vo vašom mene.
- Rozsah školení o AI prispôsobte tomu, kto umelú inteligenciu používa, pri akej práci, s akými nástrojmi a aké riziká môžu vzniknúť.
- Urobte maximum preto, aby ste boli schopní preukázať, že ste ľudí, ktorí AI používajú vo vašej firme, primerane pripravili.
- Veďte záznamy o prijatých opatreniach, napríklad o školeniach alebo iných formách vzdelávania i napriek tomu, že EU AI Act priamo nevyžaduje konkrétny certifikát.
Päť situácií, v ktorých vám umelá inteligencia môže skomplikovať fungovanie vo firme
Pri používaní umelej inteligencie potrebujete vedieť, v ktorých oblastiach môže vzniknúť chyba a aký postup majú vaši zamestnanci dodržať. Kde vznikajú problémy?
- Do AI sa dostanú citlivé firemné údaje
Obchodník vloží do AI nástroja ponuku pre klienta, aby ju preformuloval. Spolu s textom však môže zdieľať kontakty, ceny, zmluvné podmienky alebo interné poznámky.
Tip: Určite, aké údaje môžu zamestnanci pri práci s umelou inteligenciou používať a ktoré musia zostať mimo externých nástrojov. Týka sa to osobných údajov, klientských podkladov, finančných informácií aj obchodného tajomstva. S tým súvisí aj kybernetická bezpečnosť.
- Výstup AI sa považuje za overený
AI môže pripraviť profesionálne znejúcu odpoveď, ktorá obsahuje neaktuálnu cenu, chybný termín, nesprávne právne vysvetlenie alebo neexistujúci zdroj.
Tip: Nastavte pravidlo, že výstup umelej inteligencie je pracovný návrh. Pred odoslaním klientovi alebo použitím pri rozhodovaní treba overiť fakty, čísla, termíny a zdroje.
Overovanie výstupov umelej inteligencie podľa EU Ai Act/Vytvorené AI
- Každý tím používa iný nástroj AI
Marketingové oddelenie môže používať jeden nástroj, obchodníci druhý a HR verejné účty bez spoločných pravidiel. Dôsledkom je neprehľadnosť a rozdielne riziká medzi tímami plynúce s používania odlišných nástrojov AI.
Tip: Pomenujte povolené nástroje, prípustné účely, zakázané vstupy a osobu, na ktorú sa môžu zamestnanci obrátiť, ak nie sú si istí.
- AI ovplyvňuje rozhodovanie o ľuďoch
AI môže pomáhať pri sumarizovaní životopisov, hodnotení kandidátov alebo príprave odporúčaní. Ak jej výstup prevezmete bez vlastného posúdenia, chyba môže ovplyvniť výber uchádzača, klienta alebo obchodné rozhodnutie.
Tip: Pri úlohách s väčším dopadom si určite, v ktorých prípadoch musí výsledok skontrolovať a schváliť človek. Pri vysokorizikových AI systémoch EU AI Act vyžaduje účinný ľudský dohľad.
- Nepreukázateľné vzdelávanie zamestnancov v oblasti AI
Ak zamestnanec nepozná pravidlá používania AI, nevie, čo môže zadať do nástroja ani kedy má výstup preveriť. Všeobecná smernica teda nestačí.
Tip: Zabezpečte praktické vzdelávanie na situáciách z vašej praxe a evidujte jeho absolvovanie. Pomôže vám to podporiť primeranú AI gramotnosť ľudí, ktorí používajú umelú inteligenciu vo vašom mene.
Ako nastaviť pravidlá pre umelú inteligenciu vo vašej firme
Nemusíte začínať rozsiahlym dokumentom, ale poskytnite zamestnancom informácie, čo majú pri práci s AI urobiť.
- Zmapujte používanie AI. Zistite, ktoré nástroje ľudia používajú, pri akých úlohách a kto zodpovedá za ich využívanie.
- Rozdeľte údaje podľa citlivosti. Určite, ktoré informácie môžu zamestnanci používať, ktoré vyžadujú opatrnosť a ktoré do AI nepatria. Stanovte kontaktnú osobu, na ktorú sa môžu v prípade nejasností obrátiť.
- Určite, čo musí schváliť človek. Nastavte kontrolu, napríklad pri komunikácii s klientmi, cenových ponukách, právnych a finančných podkladoch či rozhodovaní o ľuďoch.
- Dajte ľuďom praktický postup. Nestačí poslať smernicu e-mailom. Zamestnanci potrebujú vedieť, čo robiť pri práci s dokumentom, citlivými údajmi alebo nejasným AI výstupom.
- Pravidlá aktualizujte pri využívaní nového nástroja, zmene procesov alebo nástupe nových ľudí.
Online školenie o používaní umelej inteligencie/Vytvorené AI
Online školenie AI na vzdelávacej platforme Edumio: Ako preniesť pravidlá do praxe?
Praktické online školenie AI od Edumio ukáže vašim zamestnancom bežné pracovné scenáre bez zbytočného technického žargónu. Naučia sa bezpečne pracovať s dátami, preverovať AI výstupy a rozpoznať úlohy, pri ktorých musí finálne rozhodnutie zostať na človeku.
Školenie môžete zaradiť do onboardingu, zopakovať pri zmene nástrojov alebo aktualizovať spolu s internými pravidlami. Získate aj prehľad o tom, kto ho absolvoval a či porozumel základným zásadám práce s umelou inteligenciou.
Tip: Ak už riešite vzdelávanie zamestnancov na jednom mieste, k AI gramotnosti môžete pridať aj školenia BOZP (Bezpečnosť a ochrana zdravia pri práci), OPP (Ochrana pred požiarmi), PZS (Pracovná zdravotná služba), GDPR a kybernetickú bezpečnosť.
Umelá inteligencia vo vašej firme: Menej chýb, viac istoty
Umelá inteligencia vám môže urýchliť bežnú prácu bez toho, aby ste zbytočne riskovali únik dát, stratu dôvery klientov či nesprávne rozhodnutia. Potrebujete však jasné pravidlá a ľudí, ktorí ich dokážu použiť v každodennom fungovaní.
EU AI Act nemá byť iba formálnou povinnosťou. Ak vaši zamestnanci dávajú pozor na citlivé údaje, overujú si výstupy a vedia, v ktorých situáciách má rozhodnúť človek, chránite tým svoju firmu, klientov aj ich samotných.
Chcete mať istotu, že váš tím používa umelú inteligenciu bezpečne a zodpovedne? Vyberte si praktické online školenie AI od Edumio a nastavte zamestnancom pravidlá používania AI v pracovnom procese.
Zdroj:
- Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024 – Akt o umelej inteligencii https://eur-lex.europa.eu/eli/reg/2024/1689/oj/slk
- Edumio AI školenie (doplniť link, keď bude na stránke)