Kdybychom se na AI podívali hlediska definice, jde o strojový systém, který je navržený tak, aby po zavedení fungoval s různými úrovněmi autonomie, může vykazovat adaptabilitu a za explicitními nebo implicitními účely z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, jež mohou ovlivnit fyzická nebo virtuální prostředí. Co z toho se hodí pro HR?
Třeba obecná automatizace administrativy a komunikace, jako je různé plánování, řízení dokumentace a pošty, překlady, zápisy, analýzy, grafiky, prezentace či používání chatbotů. AI je ale také dobrá pro náběr a onboarding nových zaměstnanců, počínaje tvorbou inzerátů pracovních nabídek, zpracováním profesních životopisů a analýzou kandidátů na obsazovanou pozici, přes tvorbu náborového obsahu a chatboty až po pracovní pohovory, školení nebo Q&As. Vítaným pomocníkem je ale i při sestavování HR reportů a analýz, ať už jde o zpracování datových celků o zaměstnancích či jednotlivci.
V rámci náboru zaměstnanců sám hodnotil a vybíral či vyčleňoval uchazeče bez lidského dohledu: V náboru a onboardingu může AI systém pomáhat s přípravou textu inzerátů, generováním náborového obsahu, základním zpracováním a úvodní analýzou životopisů a s obsluhou chatbotů. Pozor! Jakmile AI systém cíleně umísťuje inzerci, předtřiďuje nebo skóruje kandidáty či vede automatizované (video) pohovory, jedná se o vysoce rizikový AI systém dle přílohy III AI Aktu a je třeba zajistit lidský dohled, informovat dotčené osoby a umožnit vysvětlení role AI v rozhodnutí. Dále například rozpoznávání emocí AI systémem je v pracovním kontextu je absolutně zakázané. Pro HR reporting a analýzy platí, že agregované výstupy typicky spadají do omezeného rizika s povinností transparentnosti, pokud však AI systém provádí individuální profilaci, monitoring nebo automatizované skórování výkonu, jde o vysoce rizikový AI systém a je opět nutný lidský dohled a další kontrolní mechanismy.
Velmi vděčné jsou v tomto ohledu různé zaměstnanecké průzkumy a poskytování feedbacku na základě analýz a predikcí generovaných AI a hledání nejvhodnějších možností řešení. AI ale také dobře poslouží při rozvoji zaměstnanců a personalizaci vzdělávání či hodnocení a monitoringu zaměstnanců, kdy umožňuje automatizované rozhodnutí na základě sledování výkonnosti, chování a kontroly výkonu práce. Je to tedy takový Velký bratr dneška, což sebou přináší i několik důležitých právních otázek, které na naší konferenci Jak na digitalizaci HR v praxi? upozornil Jakub Málek, Managing Partner v advokátní kanceláři Peyton Legal.
Jaké zákony regulují používání AI?
Používání umělé inteligence je totiž svázáno s poměrně jasnou právní regulací. Tou hlavní je evropský AI Act, nařízení o umělé inteligenci, které je první komplexní regulací používání AI na světě. AI Act vstoupil v platnost 1. srpna 2024 a konkrétní povinnosti z něj vyplývající se uplatňují postupně: od 2. února 2025 platí zákazy vybraných praktik (kategorie zakázaných AI systémů) a povinnost zajišťovat AI gramotnost relevantních osob, zejména zaměstnanců, od 2. srpna 2025 se začínají uplatňovat pravidla pro modely obecného použití (GPAI) a související mechanismy a současně začíná fungovat režim státního dozoru a uplatňování pokut. O rok později, tedy od 2. srpna 2026 se použije většina zbývajících ustanovení, včetně pravidel transparentnosti a režimu pro systémy s vysokým rizikem podle přílohy III (např. vybrané HR aplikace), a od 2. srpna 2027 se následně uplatní druhá vlna poviností pro AI systémy s vysokým rizikem, které fungují jako bezpečnostní komponenty regulovaných výrobků. AI Act je vydán formou nařízení a je tedy přímo použitelný od jeho platnosti, členské státy primárně zřizují a koordinují dozorové orgány a stanoví sankční rámec v mezích nařízení.
AI Act rozlišuje AI systémy do následujících kategorií: (i) zakázaných praktik, (ii) systémů s vysokým rizikem podle přílohy III, (iii) systémů s omezeným rizikem a (iv) ostatních systémů s minimálním rizikem bez zvláštních povinností, vedle toho AI Act stanoví samostatná pravidla pro modely AI obecného použití (GPAI), spadajících do kategorie s minimálním rizikem. Jak zmiňuje Jakub Málek, zpracovává-li AI osobní údaje, je zároveň nutné dodržet zásady GDPR: zákonnost, korektnost a transparentnost; účelové omezení; minimalizaci údajů; přesnost; omezení uložení; integritu a důvěrnost; a zásadu odpovědnosti. Důraz se v této souvislosti bude klást na přesnost, omezení uložení takových dat, jejich integritu a důvěrnost, a také na odpovědnost těch, kteří budou s HR daty nakládat. Firma je v pozici správce osobních údajů a vždy v této roli nese odpovědnost za řádně nastavené vztahy se zpracovateli osobních údajů, které využívá.
Na co si hlavně dát pozor
Na co si tedy při používání AI z HR dát hlavně pozor z hlediska práva? Jakub Málek upozorňuje například na využívání zakázaných AI systémů pro školení zaměstnanců a dodržování zásad zpracování osobních údajů. Důvěrné informace, na něž se vztahuje NDA, nelze svěřovat veřejným jazykovým modelům AI. Firmy si musí pro používání AI vytvořit vnitřní směrnice a pokyny, pořádat o něm školení a důsledně používání AI sledovat a kontrolovat. Velmi důležité je zachování autorství u děl, která jsou používána pro generování obsahu pomocí AI. Při zpracování dat pomocí AI je třeba zajistit, aby na vstupu byla vždy úplná a aktuální data, aby výsledky nebyly neúplné nebo nepřesné. Firma by také měla vždy vědět, zda byla AI při generování dat využita jako podpůrný zdroj, hlavní zdroj, jediný zdroj či dokonce AI sama rozhodovala.
„Vždy je důležité dávat pozor na to, co do AI nástrojů zadáváte, aby to nebyly citlivé informace, osobní údaje nebo autorsky chráněná díla,“ nabádá Jakub Málek. „Pozor také na autorská práva k výstupům a použitým materiálům. Kriticky prověřujte výstupy AI nástrojů a nastavte prvky kontroly výstupů. U třetích osob myslete na práva uchazečů, zaměstnanců či partnerů,“ shrnuje. Firma by si podle něj měla zkontrolovat a upravit smluvní podmínky s poskytovateli služeb a AI nástrojů a nastavit bezpečný režim AI nástrojů. Důležité je také nastavit interní pravidla pro používání AI a sdílet je se zaměstnanci. A také kontrolovat jejich dodržování.
