Příspěvky

Co se v EU zakazuje od 2. 2. 2025?

Obrázek
 Od 2. února 2025 vstupují v platnost pravidla, která určují, jaké systémy umělé inteligence jsou v EU zakázané. Tato opatření mají chránit občany před neetickým využitím AI a zabránit manipulaci, diskriminaci či zneužívání osobních údajů. Regulace se zaměřují na technologie, které mohou podstatně ovlivnit chování jednotlivců nebo skupin, aniž by si to dotyční uvědomovali. Mezi zakázané systémy patří například AI, která využívá podprahové techniky k manipulaci uživatelů nebo je záměrně uvádí v omyl. Dále jsou zakázány technologie, které zneužívají zranitelné osoby na základě jejich věku, zdravotního stavu nebo ekonomické situace. Regulace také postihují systémy sociálního hodnocení (scoringu), které by mohly vést k diskriminaci a znevýhodňování lidí například při přístupu ke službám. Další omezení se týká biometrických systémů – je zakázáno využívat AI pro identifikaci osob na veřejných místech v reálném čase, pokud k tomu není legitimní důvod, jako je pátrání po pohřešovaných osob...

2. 2. 2025 EU AI Act jak jste připraveni?

Obrázek
 Pokud ve vaší firmě využíváte umělou inteligenci, máte povinnost zajistit, že s ní vaši zaměstnanci správně pracují. Nemusíte pročítat celý AI Act EU a tápat, co to znamená právě pro vás. Připravil jsem rychlý a jednoduchý kurz, který vám za půl hodiny poskytne vše, co potřebujete vědět. A jako bonus na vás na konci čeká certifikát. 👉 Více na: https://www.bezpecnostai.cz/courses/ai-act 💬 Nebo mi napište a vytvoříme školení přímo na míru vaší firmě. Musíme AI Act plnit i my? Krátká odpověď: Ano. Pokud ve vaší firmě používáte umělou inteligenci – od korporací až po OSVČ – spadáte do skupiny tzv. zavádějících subjektů (deployers). To zahrnuje všechny organizace, které implementují a využívají AI systémy pro pracovní účely. Příklady zavádějících subjektů v praxi: - Výrobní podniky: Prediktivní údržba nebo automatizace výroby. - Banky: Detekce podvodů, scoring klientů, chatboti. - E-shopy: Doporučování produktů, optimalizace cen. - Logistické společnosti: Plánování tras, optimalizace...

Klasifikace umělé inteligence podle míry rizika dle AI Act EU

Obrázek
Evropská unie představila nařízení AI Act, které zavádí klasifikaci systémů umělé inteligence (AI) podle míry rizika. Tato klasifikace je prezentována formou pyramidy, kde jednotlivé úrovně rizika určují pravidla pro použití AI systémů v souladu s legislativou EU: Nepřijatelné riziko : Zakázané systémy. Vysoce rizikové systémy : Povolené za splnění přísných požadavků. Omezené riziko : Povolené za splnění informačních povinností. Minimální riziko : Většina těchto systémů je povolena. Nepřijatelné riziko AI systémy zařazené do této kategorie jsou zakázány, protože mohou způsobit vážné škody na zdraví, bezpečnosti nebo lidských právech. Patří sem: Manipulativní techniky : Systémy, které zneužívají podprahové metody nebo manipulativní techniky ke klamání osob. Příklad : Donucení uživatele ke koupi nebezpečného produktu. Zneužívání zranitelnosti : AI systémy, které zneužívají věk, zdravotní postižení nebo sociální situaci k škodlivým účelům. Příklad : AI aplikace zneužívající děti ke sběru ...

AI Act: Blížíme se k milníku – Co znamená 2. únor 2025 pro firmy a jejich systémy AI?

Evropské nařízení AI Act představuje historicky první pokus o komplexní regulaci umělé inteligence (AI) na globální úrovni. Od jeho schválení v červnu 2024 sledujeme postupnou implementaci jednotlivých ustanovení, která změní způsob, jak firmy navrhují, zavádějí a provozují systémy AI. Klíčovým datem v tomto procesu je 2. únor 2025 , kdy začnou platit první povinnosti podle tohoto nařízení. Co to znamená pro firmy a jaký vliv to bude mít na jejich systémy umělé inteligence? Co vstoupí v platnost 2. února 2025? Druhý únor 2025 je důležitým milníkem v implementaci AI Actu. V tento den nabydou účinnosti zásadní ustanovení, která ovlivní fungování firem využívajících AI: Obecná ustanovení přinášejí firmám povinnost zajistit, aby jejich systémy AI splňovaly základní pravidla bezpečnosti, spolehlivosti a transparentnosti. Zákazy zakázaných praktik znamenají, že AI systémy manipulující chováním uživatelů, diskriminující nebo používající biometrické sledování ve veřejných prostorech bez d...