BLOG

Přečtěte si poslední novinky ze světa datových technologií a BI.
Nezapomeňte se přihlásit k jejich odběru na e-mail.

Jaké jsou největší hrozby v oblasti AI či největší díry na trhu?

Kolegyně Kamila Hamalčíková vyzpovídala 6 profesionálů z oblasti datové vědy, kteří se zúčastnili konference Machine Learning Conference Prague 2024. Zajímalo ji, co považují za největší nebezpečí, kterým lidé mohou čelit kvůli raketovému nástupu AI technologií, i kde vidí zatím nevyužité obchodní příležitosti pro aplikaci umělé inteligence. Dočtete se také, proč mnoho z těchto odborníků téměř nepoužívá AI v soukromém životě. 

Během nedávné konference Machine Learning Prague 2024 jsme se ptali následujících expertů na umělou inteligenci (AI) a machine learning (ML, strojové učení): 

  • Tereza Fukátková z České republiky, Data Insights Manager | Fortuna Entertainment Group 
  • John Sinderwing ze Švédska, Senior ML Engineer | Accurate Consulting 
  • Yauhen Babakhin z Běloruska, Data Scientist | H2O.ai 
  • Michelle Arikawa z Nového Zélandu, Machine Learning Engineer se specializací na NLP | Microsoft 
  • Michal Dečo ze Slovenska, ML Analytic/Engineer | U.S. Steel Košice 
  • Bose Falk ze Švédska, Senior Data Manager | DKMS 

The good, the bad, and the ugly of AI. Which one will prevail in the future? The image generated by DALL-E

V jakých oblastech nebo odvětvích podle vás existuje skrytý potenciál pro využití technologií umělé inteligence, nebo kde se v současnosti využívají pouze málo, přestože možnosti pro rozvoj jsou zde obrovské? 

Fukátková: V současnosti vidím potenciál stále všude. Může se zdát, že zaostávají pouze menší podniky, ale i když se podíváme na větší korporace, není výjimkou, že používání AI často teprve začíná, pokud se vůbec používá. Účastí na konferenci ML Prague můžete snadno nabýt dojmu, že pokročilá AI je normou, ale to zatím není pravda. Jsem si však jistá, že se to časem zlepší, jakmile překonáme nedostatek odborníků, kteří mohou pomoci s implementací AI ve firmách. 

Sinderwing: Veřejný sektor má problém s tím, že administrativní úkoly se valí na úředníky s takovou rychlostí, že je to obrazně pohřbívá v digitálních papírech. Sotva uvěříte, kolik zvláštních pracovních postupů tito úředníci trpělivě vykonávají. Věci jako kopírování každého emailu do excelové tabulky a pak zpět do dokumentu pro objednání materiálu. Mnoho z těchto úkonů bylo dříve těžké automatizovat, protože se často používá mnoho různých nástrojů a formátů. 

Nicméně, nové nástroje využívající velké jazykové modely (LLMs, Large Language Models) jako ChatGPT LLM jsou už šikovné na to, aby věci, které skoro pasují, pasovaly úplně! „Vezměte tyto emailové požadavky a formátujte je v této tabulce pomocí předdefinovaných sloupců.“ Tohle už s LLM dokážete udělat. 

Babakhin: Chtěl bych zmínit oblast mental health (duševní zdraví). V této oblasti sice již existují některé mobilní aplikace s využitím umělé inteligence, například ty, které jsou určeny pro meditaci nebo monitorování spánku. Nicméně si myslím, že se stále ukrývá nevyužitý potenciál v osobních AI asistentech duševního zdraví, kteří by zachycovali známky duševního neklidu a navrhovali včasné zásahy.

AI can un-lock personalized treatment of various mental problems, including psychotic disorders. The image generated by DALL-E

Arikawa: Doufám, že se více posuneme k nahrazení prací, které lidé nechtějí dělat, jako třeba práce na farmě, čištění toalet a jiné, s pomocí robotiky.  

Dečo: První věc, která mě napadá, je odhad chemických a mechanických vlastností meziproduktu v ocelářském průmyslu. Výrobní proces (začínající železnou rudou a uhlím a končící plechem) je složen z několika kroků. Velmi zjednodušeně to může vypadat takto: ((uhlí -> koks) + železná ruda -> surové železo) + šrot + příměs -> ocel -> deska -> svitek/plech. 

Ačkoli se měření provádí nepřetržitě, potřebné údaje nejsou vždy naměřené v dostatečném množství anebo často přicházejí příliš pozdě. V době, kdy už probíhá další fáze výrobního procesu. Tady je možné „přesné“ měření nahradit nepřesným odhadem odvozeným z jiných dat pomocí ML modelu a optimalizovat právě probíhající fázi. 

Druhým příkladem může být analýza obrazů z kamery. Mnoho vlastností surovin a produktů lze kontrolovat nebo odhadovat opticky nebo jednoduše pohledem, například složení rudy (granulometrie), množství strusky, kvalita řezu, povrchové vlastnosti nebo vady meziproduktu. Ve všech těchto oblastech je možné použít ML. 

Navíc ocelářský průmysl je materiálově a energeticky náročný, takže často i použití jednoduchého ML modelu nebo drobného vylepšení stávajícího modelu přináší roční úspory v řádu milionů eur. Možná už se trochu opakuji, ale v ocelářském průmyslu existuje mnoho možností pro ML. V mé společnosti U.S. Steel Košice máme díky ML mnoho příležitostí k optimalizaci, ale nemáme dostatek lidí a potýkáme se se špatnou kvalitou dat. Také kvůli škrtům v rozpočtu máme k dispozici méně dat než dříve. Jen pro ilustraci, v minulosti jsme brali vzorky z uhlí 3x denně a nyní to děláme jen 2x týdně, takže máme k dispozici méně dat. Uvedená čísla jsou pouze ilustrační. 

Falk: Pracuji v klinickém výzkumu. Myslím, že klinické studie by se měly stále provádět staromódním způsobem, ale existuje mnoho zajímavých případů použití v medicínské diagnostice, kde máte velmi neuspořádaná data a měříte stále to samé. Máme stejný vzorek a měříme ho pořád dokola, ale s mírně odlišnými výsledky. Proto by mě zajímalo použití strojového učení k opravě těchto věcí a poskytnutí čistých dat.  

Dalším příkladem použití může být diagnostika obrazu v medicíně. Nyní je lékařský výzkum obvykle řízen hypotézami, ale díky machine learningu můžeme přejít více k „data-driven“ výzkumu, zejména v oblasti unsupervised learning. 

Cybercrime might be no real problem when compared to AI-related threats. Photo by Growtika from Unsplash

Co považujete za největší hrozbu v oblasti umělé inteligence pro blízkou budoucnost?

Fukátková: AI má potenciál, že se s její pomocí můžeme sami vymazat z povrchu Země. Přesto se snažím zůstat optimistická, takže zmíním spíše další hrozbu.

Je to pomalé tempo, s jakým se vzdělávací systém přizpůsobuje době moderních technologií a AI. Tím, že děti neučíme zacházet s AI a nepředáváme potřebné dovednosti a znalosti, nejen rozšiřujeme technologickou propast ve společnosti, ale také necháváme budoucí generace zcela nepřipravené na realitu.

Nicméně, spoléhat se pouze na systém nebo doufat, že to za nás udělají ostatní, nestačí. Každý z nás může začít s tím, co můžeme udělat sami – ať už to znamená vzdělávat sebe, naše děti nebo naše nejbližší okolí, což pro mě znamená také Czechitas (organizace pomáhající ženám vstoupit do IT oboru). Tam jsem mohla sdílet mé znalosti v kurzu o tom, jak využít AI pro analýzu dat.

Sinderwing: Určitě dezinformace. Myslím si, že jsme stále daleko od toho, aby lidé hromadně přicházeli o pracovní místa, ale již vidíme obrovské kampaně dezinformací ovlivňující politiku po celém světě. Tento problém se může výrazně zhoršit, jakmile začnou nabírat na popularitě  deepfakes (falešné obrázky a videa). Představte si třeba situaci, že vidíte video z vaší firemní kamery, jak váš nadřízený vykrádá bankomat, jen abyste zjistili týden poté, že celá věc byla úplně falešná, vytvořená pomocí nástrojů umělé inteligence.

Babakhin: Z mého pohledu je hlavní hrozbou zkreslení v modelech strojového učení. AI systémy často přinášejí zkreslení, která mohou vést k diskriminačním výsledkům v různých případech. Proto by princip odpovědnosti při vývoji systému s využitím umělé inteligence měl získat ještě více pozornosti než dosud.

Arikawa: Myslím si, že hrozbou je, když lidé používají velké jazykové modely (LLM, jako je ChatGPT) jako vyhledávač. Lidé by je neměli používat k hledání informací, protože k tomu neslouží.

Dečo: Nepovažuji AI za hrozbu. Je to jako s jakoukoli jinou technologií. Cokoli vynaleznete, můžete použít dobře, nebo využít pro něco nekalého.

Také nevěřím, že jsme v fázi, kdy máme samostatně uvažující umělou inteligenci, takže se nebojím. Kdybych věřil, že taková AI přijde v příštích 5 letech, bál bych se, ale od takové situace jsme ještě dost daleko.

Falk: V oblasti medicíny možná spočívá nebezpečí v příliš velké důvěře ve výsledky poskytnuté počítačem, namísto použití vlastního úsudku nebo úsudku lékaře.

Pomáhají vám technologie AI ve vašem soukromém životě? Pokud ano, jak?

Fukátková: To by vystačilo na celou knihu! Ale dovolte mi sdílet nejčerstvější příklad, protože se zrovna chystám na dovolenou. Ráda používám ChatGPT, aby mi pomohl vybrat jídlo nebo nápoje z menu, pokud nejsou napsána v angličtině. Stačí mi tam nahrát fotky menu a zkontrolovat výběr. Požádám o vysvětlení místních specialit, co obsahují, nebo popisuji, co mám ráda nebo jaký je můj rozpočet, a na základě toho dostávám doporučení. Dost mě pobavilo, že naposledy, když jsem to udělala při výběru vína ve Valencii, nakonec jsem skončila s tím, co mi doporučil číšník. Pro lidi je tu stále místo.

Sinderwing: Jako inženýr GenAI (genrativní umělá inteligence) se někdy cítím téměř jako pokrytec, protože generativní umělou inteligenci téměř nepoužívám ve svém osobním životě. Myslím si, že to souvisí s tím, že většina únavných povinností, které mám, jsou fyzické (např. mytí nádobí, praní, vaření), zatímco v práci jsou to převážně intelektuální činnosti (např. psaní emailů, programování, čtení), což jsou úkoly, kde vám genAI může pomoci.

Generative AI allows people to create more customized content. The image generated by DALL-E

Když mám možnost být kreativní ve svém osobním životě, je to tak zábavné, že opravdu nechci svěřovat tvůrčí myšlení genAI, i kdyby mi to ušetřilo čas. Nejlepší použití genAI, které jsem doma našel, je ptát se na slovo, které si nepamatuji, nebo vysvětlit koncept ve švédštině a zeptat se, jak se nějaký idiom překládá do angličtiny!

Pokud jde o jiné typy AI, začal jsem používat software na úpravu obrázků. Je to dobrá aplikace, protože vím, co chci, ale nemám dovednosti, abych to provedl sám. Takže si mohu vytvořit zábavný obrázek pro událost, kterou pořádám, odstranit pozadí z portrétu pro prezentaci, vyhladit nějaké divné osvětlení nebo nedokonalosti na kůži, nebo zvětšit malý obrázek, aby vyhovoval moderním displejům 4k.

Myslím, že to je dobrý příklad toho, jak těžké může být najít použití AI: Pokud jste v dané oblasti dobří, vaše výsledky AI překonají. Pokud nejste v dané oblasti dobrý, je těžké ověřit si výstupy produkované AI. Pokud najdete něco, v čem nejste moc dobří, ale můžete snadno ověřit výsledek, pak máte svůj ideální případ použití!

Babakhin: Ve skutečnosti nemohu najít dobrý příklad AI nástroje, který často používám ve svém každodenním životě, což mi připomíná přísloví: „Kovářova kobyla chodí bosa.“ Můžu zmínit maximálně použití doporučovacích algoritmů v mém playlistu na YouTube nebo v nákupním košíku v online obchodech.

Arikawa: LLMs jako ChatGPT nepoužívám často. AI, která je více propojená s úkoly každodenního života, by pro mě byla užitečnější. Mám například robota na úklid.

Dečo: Asi jsem ještě víc konzervativnější než ostatní, protože s technologiemi, které aplikují umělou inteligenci nebo strojové učení, pouze pracuji, vůbec je nevyužívám ve svém osobním životě. Abych byl upřímný, ani jednou jsem ChatGPT nepoužil. Nikdy mě to nezajímalo.

Falk: Používám AI k hledání receptů. Řeknu ChatGPT, co mám v ledničce, a pak dostanu nějaké doporučení na recepty na základě mých předchozích podnětů. Také jsem si postavil vlastní algoritmy strojového učení založené na výpisech z banky, abych předpověděl své nákupní návyky.

Upozornění: Některá jména dotazovaných odborníků byla na jejich žádost změněna.

KATEGORIE