Umelá inteligencia je na vzostupe, problémom je ale kyberšikana

V zdravotníctve pomáha umelá inteligencia (AI) s analýzou röntgenových snímkov, ľudia ju využívajú na rýchle preklady do cudzích jazykov, študenti na pomoc pri tvorbe prác. Umelá inteligencia naberá na popularite, jej rozmach ale prináša aj riziká, pričom jedným z problémom je aj kyberšikana, tvrdí odborník Peter Bakonyi zo spoločnosti Aliter Technologies.

07.05.2024 00:00
7456443, pr, nepouzivat 2 Foto:

To, čo sme si pred niekoľkými rokmi nevedeli predstaviť je dnes realita. Umelá inteligencia sa stala súčasťou našich každodenných životov. Rýchly rozmach AI so sebou prináša ale aj riziká. ,,Ľudia si často neuvedomujú, čo všetko zdieľajú na internete a sociálnych sieťach. Napríklad nevinné fotky dospelých či detí v plavkách môžu útočníci vďaka AI nástrojom zneužiť. Bežne dostupné aplikácie dokážu behom sekundy odstrániť plavky a tieto podvodné – umelo upravené fotografie zneužiť na vydieranie obete či kyberšikanu”, vysvetľuje Peter Bakonyi, software analyst zo spoločnosti Aliter Technologies. Podľa odborníka je veľkým problémom spomínaná kyberšikana špeciálne medzi deťmi. Preto je popri klasických hrozbách online sveta nutné šíriť osvetu a edukovať o jej negatívnych dopadoch na psychiku mladých ľudí už na základných školách.

Umelá inteligencia neohrozuje iba jednotlivcov, zneužiť sa dá aj v širšom meradle. ,,Z globálneho hľadiska je aplikácia sociálneho skóre a monitorovanie populácie pomocou AI momentálne najreálnejšou hrozbou ako sa dá AI zneužiť”, dodáva Peter Bakonyi. Príkladom sú už dnes niektoré štáty, v ktorých prebiehajú prvé pokusy ako využiť umelú inteligenciu napríklad na monitoring ľudí, ktorí páchajú dopravné priestupky. Rizikom je pritom najmä zber a bezpečnosť uchovania takýchto citlivých dát.

Peter Bakonyi, software analyst, Aliter...
Peter Bakonyi software analyst Aliter Technologies, pr, nepouzivat 2 Peter Bakonyi, software analyst, Aliter Technologies.

To, že rozmach umelej inteligencie prináša aj hrozby si uvedomuje aj Európska únia, v rámci ktorej sa zavádza takzvaný AI act, ktorý má zmierniť potenciálne zneužitie AI s cieľom chrániť koncových používateľov. Podľa Petra Bakonyiho je práve šírenie dezinformácií, generovanie nepravdivého obsahu a pokusy o manipuláciu s názormi ľudí zdvihnutým prstom pre odborníkov aj politikov. "Či už ide o fiktívne vygenerovaný článok o nehode, katastrofe, útoku, alebo o údajnom čine celebrity, môže to negatívne ovplyvniť vnímanie verejnosti, zvýšiť strach a tiež nedôveru verejnosti v inštitúcie”, dodáva Peter Bakonyi zo spoločnosti Aliter Technologies.

O umelú inteligenciu sa zaujímajú nielen študenti ale aj hackeri. "Na jednej strane sú pozitívne veci, AI dokáže písať články, pomáhať s prekladmi, vytvárať kódy pre programátorov, na druhej strane ju využívajú už aj hackeri. Hackeri našli spôsoby, ako je napríklad generovanie malvéru a iných kyberútokov. Dokážu si vygenerovať malvér, ktorý má menej chýb ako ten, čo napíše človek, a často je ťažšie detekovateľný. Podobne podvodníci dokážu pri podvodných telefonátoch imitovať hlas blízkej osoby z neznámeho čísla a získať takýmto spôsobom financie od nevinných ľudí”, dodáva Peter Bakonyi, odborník na AI zo spoločnosti Aliter Technologies.

chyba