Americké technologické firmy vrátane Apple, Google, Meta, Microsoftu a OpenAI čelia rastúcemu tlaku zo strany štátnych generálnych prokurátorov. Dôvodom sú „nebezpečné“ a „deluzórne“ odpovede AI systémov, ktoré podľa orgánov môžu ohrozovať používateľov, najmä deti a zraniteľné osoby.
K situácii sa v posledných dňoch vyjadrila nielen koalícia 41 generálnych prokurátorov, ale aj newyorská prokurátorka Letitia James, ktorá iniciovala oficiálnu výzvu Big Techu na okamžité zásahy.
AI má chrániť, nie ohrozovať. Štáty chcú jasné pravidlá
List, ktorý technologické firmy dostali, požaduje zavedenie konkrétnych bezpečnostných mechanizmov. Podľa prokurátorov sa totiž množia situácie, v ktorých chatboti generujú škodlivé, zavádzajúce alebo psychicky nebezpečné odpovede.
Newyorská prokurátorka upozorňuje napríklad na prípady, keď AI reagovala na rozhovory so zraniteľnými používateľmi spôsobom, ktorý mohol zhoršiť ich psychický stav. V iných situáciách dokázala technológia poskytovať informácie, ktoré môžu byť v rozpore s trestným právom jednotlivých štátov.
Štáty preto žiadajú, aby platformy:
- jasne označovali riziká spojené s používaním AI chatbotov,
- informovali používateľov, ak boli vystavení škodlivému alebo rizikovému obsahu,
- zverejňovali dáta o tom, v akých situáciách môže AI zlyhávať,
- a umožnili nezávislé audity modelov vrátane dohľadu štátnych orgánov.
Reuters: Niektoré výstupy AI môžu porušovať zákony
Ako upozorňuje agentúra Reuters, koalícia prokurátorov varovala Big Tech aj pred tým, že tzv. hallucinations (vymyslené alebo nepresné tvrdenia AI) môžu v krajnom prípade porušovať právne normy.
Jedným z citovaných prípadov je komunikácia chatbota s tínedžerom, ktorý uvažoval o samovražde. AI podľa prokurátorov reagovala spôsobom, ktorý nebol bezpečný ani vhodný.
Štáty preto nechcú spoliehať na dobrovoľné opatrenia technologických firiem a zvažujú vlastné regulačné zásahy, ak sa situácia nezlepší.
Napätie medzi štátmi a federálnou vládou rastie
Do diskusie vstúpila aj federálna vláda, ktorá presadzuje jednotné celoštátne pravidlá pre umelú inteligenciu. Viaceré americké štáty však deklarovali, že si chcú zachovať vlastnú regulačnú autonómiu, najmä pri ochrane spotrebiteľa a bezpečnosti detí.
Výsledkom je čoraz viditeľnejší spor o to, kto má mať nad vývojom a dohľadom nad AI navrch.
Technologické firmy sú pod drobnohľadom. Očakávajú sa ďalšie kroky
Big Tech zatiaľ na list reagoval len všeobecne – všetky firmy sa zhodujú, že bezpečnosť je prioritou, no podľa generálnych prokurátorov je tempo zmien nedostatočné.
Z hľadiska trhu ide o ďalší signál, že regulácia umelej inteligencie sa zrýchľuje a v najbližších mesiacoch môžu prísť nové legislatívne rámce, ktoré ovplyvnia fungovanie chatbotov, hlasových asistentov aj AI nástrojov pre deti.
Diskusia k článku: