AI podvody pribúdajú: Ako sa vyhnúť AI washingu a pokutám?
Startup tvrdí, že má “AI-poháňanú” platformu, ktorá revolučne zmení priemysel. Investor do projektu vloží milióny. Realita? Až 700 programátorov píše kód manuálne. Aj takéto AI podvody v posledných rokoch zapĺňajú novinové články.
V tomto prípade išlo o Builder.ai, kde sa spoločnosť s oceňovaním 1,5 miliardy dolárov zrútila po tom, čo sa odhalilo, že jej údajne revolučná AI asistentka “Natasha” bola v skutočnosti len masívny tím indických vývojárov.
V článku sa dozviete:
- Čo znamená AI washing?
- Aké sú postihy za podvody s umelou inteligenciou vo svete?
- Ako sa vyhnúť AI washingu v komunikácii firiem?
Ak sme si mysleli, že greenwashing je jediný “washing” problém súčasnosti, mýlime sa. AI washing sa stal novou hrozbou, ktorá ohrozuje dôveryhodnosť technologickej komunikácie rovnako ako greenwashing poškodzuje komunikáciu ESG a udržateľnosti.
S rozmachom umelej inteligencie čelia firmy novej komunikačnej výzve. Okrem toho, že sa musia vyhnúť zavádzaniu v oblasti udržateľnosti, teraz musia aj zodpovedne komunikovať o svojich AI riešeniach.
Od greenwashingu k AI washingu: Evolúcia komunikačných rizík
Oba tieto fenomény využívajú populárne trendy na získanie konkurenčnej výhody. Či už ide o ESG a udržateľnosť v prípade greenwashingu, alebo o umelú inteligenciu pri AI washingu. Praktiky sú takmer identické:
- Vágne tvrdenia bez konkrétnych dôkazov (“eco-friendly” vs. “AI-powered”)
- Selektívne informovanie zdôrazňovaním pozitív a zamlčiavaním problémov
- Nepodložené porovnania s konkurenciou bez relevantných dát
- Zavádzajúce vizuály v štýle zelených symbolov vs. futuristických AI grafík
Následky môžu byť pritom rovnako devastujúce. Prejavujú sa v strate investorov či dôvery zákazníkov, reputačných škôd, nedôvere zamestnancov a čoraz tvrdšími právnymi sankciami. Rozdiel je však v rýchlosti regulačnej odpovede.
Zatiaľ čo greenwashing čelí postupnému sprísňovaniu regulácií, ako napríklad smernica 2024/825 (tzv. Smernica o nekalých obchodných praktikách) s pokutami do 4% obratu, AI washing vyvolal okamžitú a agresívnu reakciu regulátorov.
Regulačný útok na AI washing: Konkrétne prípady z praxe
Marec 2024 sa stal medzníkom v regulácii AI washingu. Americká Komisia pre cenné papiere a burzy USA (SEC) udelila prvé pokuty za falošné AI tvrdenia. Išlo o spoločnosti Delphia a Global Predictions, kde v prvom prípade firma zaplatila 225 000 dolárov a v druhom 175 000 dolárov.
Delphia tvrdila, že dokáže analyzovať nákupné zvyky a aktivitu na sociálnych sieťach svojich klientov pomocou AI a na základe toho im poskytovať investičné rady. V skutočnosti nikdy nevytvorila algoritmus na využitie klientskych dát pre investičné rozhodnutia.
Global Predictions nepravdivo tvrdila, že je “prvým regulovaným AI finančným poradcom” a jej technológia zahŕňa “expertné AI-riadené predpovede”, ale v skutočnosti žiadne AI schopnosti nemala.
Builder.ai: Anatómia miliardového podvodu
Najšokujúcejší prípad predstavuje už spomínaný londýnsky startup Builder.ai, ktorý získal viac ako 450 miliónov dolárov od prestížnych investorov vrátane Microsoftu a SoftBank. Spoločnosť sa prezentovala ako revolučná “AI-poháňaná” no-code platforma s AI asistentkou “Natasha”. Tá údajne dokázala vytvoriť softvér “jednoducho ako objednávanie pizze”.
Realita bola úplne iná. Namiesto AI používal Builder.ai približne 700 inžinierov v Indii, ktorí manuálne písali kód pre klientske projekty. Spoločnosť sa spoliehala na outsourcing, pričom developeri vykonávali tradičný vývoj softvéru maskovaný ako AI automatizácia.
Kolaps prišiel v roku 2025, keď nezávislý audit odhalil masívne nafúknutie príjmov, v ktorom Builder.ai komunikoval príjem 220 miliónov dolárov, oproti skutočným 50 miliónom dolárov. Spoločnosť podala žiadosť o bankrot naprieč viacerými jurisdikciami, čo malo za následok, že takmer 1 000 ľudí prišlo o prácu. Investori, ktorí do startupu vložili viac ako pol miliardy dolárov, stratili prakticky celú svoju investíciu.
Aj tieto obvinenia a AI podvody potvrdili trend, že sa AI washing presúva od občianskych pokút až k väzeniu. Federálne prokuratúry vyšetrujú ďalšie prípady systematického znázornenia AI kapacít investorom.
Európsky prístup: AI Act v akcii
V Európskej únii medzitým prišla vôbec prvá AI regulácia na svete, tzv. AI Act, ktorý sa postupne implementuje.
Európsky AI Act vstúpil do platnosti 1. augusta 2024 a predstavuje najkomplexnejší regulačný rámec pre AI na svete. Na rozdiel od postupného prístupu pri greenwashingu, AI Act prináša okamžité a drvivé sankcie.
Implementácia a sankcie AI Actu
Výška sankcií prevyšuje aj GDPR:
- Zakázané AI systémy: Pokuty až do výšky 35 miliónov EUR alebo 7% globálneho ročného obratu
- Ostatné porušenia: Do 15 miliónov EUR alebo 3% obratu
- Nesprávne informácie: Do 7,5 milióna EUR alebo 1% obratu
Postupná implementácia:
- Február 2025: Zákaz najrizikovejších AI systémov
- August 2025: Pravidlá pre GPAI modely a správne štruktúry
- August 2026: Plná aplikácia väčšiny ustanovení
- August 2027: Vysokorizikové AI systémy v regulovaných produktoch
Ako zamedziť AI podvodom
AI washing predstavuje vážnu hrozbu pre technologickú komunikáciu. Kým regulátori sprísňujú dohľad a sankcie dosahujú astronomické sumy, firmy musia prehodnotiť svoj prístup k AI komunikácii.
Kľúčom k úspechu nie je vyhýbanie sa AI komunikácii, ale jej zodpovedné a transparentné vedenie. Spoločnosti, ktoré si osvoja princípy pravdivosti a overiteľnosti, získajú konkurenčnú výhodu, pričom dôveryhodnosť sa stáva najcennejšou menou v očiach investorov.
V GreenTalk sme preto pripravili niekoľko základných odporúčaní, ako predísť AI washingu a vyhnúť sa tak škodám vo firme.
Transparentnosť v komunikácií je dôležitý faktor, ktorý má vplyv na investorov, zákazníkov a zároveň buduje hodnotu značky. Podcenenie komunikácia rôznych nástrojov môže mať za následok stratu reputácie, ale aj mastné pokuty.
Začnite riadnou definíciou
Definujte AI interne aj pre marketingové účely. Vytvorte jasnú internú definíciu AI, aby ste sa vyhli obvineniam zo zneužívania termínu. Ako radí Debevoise Data Blog, definícia AI môže obmedziť riziko, že personál náhodne označí jednoduché automatizované systémy ako AI v reklamných materiáloch.
Vyhýbajte sa hypotetickému jazyku pre skutočné AI praktiky. Používanie výrazov ako “môže” na opis AI prípadov, ktoré skutočně existujú, môže vyvolať podozrenie regulátorov.
Overte si tvrdenia
Dokumentujte testovanie a validáciu na podporu akýchkoľvek AI tvrdení. Predtým ako začnete komunikovať vytvorte “rozumný základ” pre akýkoľvek typ tvrdenia o AI produkte alebo službe.
Spravujte AI dodávateľov zodpovedne. Pre AI systémy poskytované dodávateľom si dávajte pozor, aby ste len neopakovali tvrdenia dodávateľa o AI systéme bez prijatia primeraných krokov na overenie presnosti každého tvrdenia.
Zabezpečte nevyhnutnosti
Ustanovte proces na preskúmanie všetkých súčasných a navrhovaných vyhlásení o AI, aby ste zabezpečili, že sú presné, môžu byť podložené a nepreháňajú ani nesľubujú príliš veľa. Proces preskúmania môže vyžadovať právne aj technické preskúmanie.
Zabezpečte školenie pre interný marketing a obchodný tím o právnych a reputačných rizikách preceňovania AI kapacít. Keďže riziko AI vyhlásení sa rýchlo stalo dôležitou compliance otázkou, vzdelávanie marketingových a compliance tímov o regulačnej kontrole prospeje riadeniu rizík.
Na Slovensku môžu firmy pri nastavovaní vnútorných procesov využiť aj prvý slovenský Etický kódex pre umelú inteligenciu, ktorý pripravila Asociácia AI. Kódex poskytuje praktické usmernenia pre označovanie AI obsahu, ochranu osobných údajov a zabezpečenie ľudskej kontroly nad AI systémami
Základné otázky, ktoré sa oplatí položiť si pred tým, než sa rozhodnete komunikovať váš nástroj. Otázky sa môžu líšiť v závislosti od typu nástroja.
Potrebujete pomoc s nastavením zodpovednej komunikácie AI riešení? Kontaktujte nás a pomôžeme vám vyhnúť sa pasciam AI washingu pri zachovaní autentickej prezentácie vašich technologických inovácií.
Časť tohto obsahu bola vytvorená pomocou umelej inteligencie a následne upravená a overená človekom. V GreenTalk sa riadime odporúčaniami IPRA o transparentnom a etickom používaní AI v komunikácii.
