Bezpečnost AI - blog

 Od 2. února 2025 vstupují v platnost pravidla, která určují, jaké systémy umělé inteligence jsou v EU zakázané. Tato opatření mají chránit občany před neetickým využitím AI a zabránit manipulaci, diskriminaci či zneužívání osobních údajů. Regulace se zaměřují na technologie, které mohou podstatně ovlivnit chování jednotlivců nebo skupin, aniž by si to dotyční uvědomovali. Mezi zakázané systémy patří například AI, která využívá podprahové techniky k manipulaci uživatelů nebo je záměrně uvádí v omyl. Dále jsou zakázány technologie, které zneužívají zranitelné osoby na základě jejich věku, zdravotního stavu nebo ekonomické situace. Regulace také postihují systémy sociálního hodnocení (scoringu), které by mohly vést k diskriminaci a znevýhodňování lidí například při přístupu ke službám. Další omezení se týká biometrických systémů – je zakázáno využívat AI pro identifikaci osob na veřejných místech v reálném čase, pokud k tomu není legitimní důvod, jako je pátrání po pohřešovaných osob...

 Pokud ve vaší firmě využíváte umělou inteligenci, máte povinnost zajistit, že s ní vaši zaměstnanci správně pracují. Nemusíte pročítat celý AI Act EU a tápat, co to znamená právě pro vás. Připravil jsem rychlý a jednoduchý kurz, který vám za půl hodiny poskytne vše, co potřebujete vědět. A jako bonus na vás na konci čeká certifikát. 👉 Více na: https://www.bezpecnostai.cz/courses/ai-act 💬 Nebo mi napište a vytvoříme školení přímo na míru vaší firmě. Musíme AI Act plnit i my? Krátká odpověď: Ano. Pokud ve vaší firmě používáte umělou inteligenci – od korporací až po OSVČ – spadáte do skupiny tzv. zavádějících subjektů (deployers). To zahrnuje všechny organizace, které implementují a využívají AI systémy pro pracovní účely. Příklady zavádějících subjektů v praxi: - Výrobní podniky: Prediktivní údržba nebo automatizace výroby. - Banky: Detekce podvodů, scoring klientů, chatboti. - E-shopy: Doporučování produktů, optimalizace cen. - Logistické společnosti: Plánování tras, optimalizace...