Ar šališki žmonės gali sukurti nešališką AI? EYI 2024
2024 m. lapkričio 27–29 d. Odeta Isevičiūtė dalyvavo Europos jaunųjų inovatorių festivalyje (European Young Innovators Festival) Grace, kurį organizuoja World Summit Awards (WSA). Festivalyje ji skaitė pranešimą apie vieną klausimą: ar šališki žmonės gali sukurti nešališką AI?
Apie renginį
Europos jaunųjų inovatorių festivalis yra WSA renginys jauniems pokyčių kūrėjams, poveikio startuoliams, nuomonės lyderiams ir organizacijoms iš visos Europos. 2024 m. festivalio tema buvo „Boosting Innovation with Ethics“, o pagrindinė diena vadinosi „Artificial X Human“.
Per tris dienas programa keliavo po Gracą: pirmą dieną Murinsel ir Burg Graz, antrą – Helmut List Halle ir miesto rotušė, trečią – UniCorn ir Dom im Berg. Kartu su jaunaisiais inovatoriais dalyvavo Štirijos organizacijos ir svečiai iš kitų šalių.
Ką darėme
Odeta festivalio programoje buvo nurodyta kaip viena pagrindinių dalyvių, atstovaujanti WSA Lietuvai: vertinimo komisijos narė, mentorė ir renginio vedėja. Pranešimą ji skaitė anglų kalba.
Pradėjo nuo prašymo: „Pakelkite ranką, jei esate nešališki.“ Nepakėlė niekas, ir būtent to ji siekė. Skaidrėje už jos stovėjo lamų banda po Claude, ChatGPT, Meta, Gemini, DeepSeek ir xAI logotipais su užrašu „AI race to truth“.
Trys mintys iš pranešimo
1. Nešališkų žmonių nėra, todėl vienos tiesos 8 mlrd. žmonių nebus
Odeta šališkumą apibūdino kaip informacijos stoką: pažiūras susidarome iš to, ką atsitiktinai perskaitėme, pamatėme ir išgyvenome. Tai nėra yda. Būtent šališkumai žmones atvedė nuo primatų iki salės, kurioje diskutuojama apie dirbtinį intelektą.
Tada ji pasidalijo asmenine istorija. Odeta gimė sovietų okupuotoje Lietuvoje ir matė, kaip šalis tapo rinkos demokratija. Kai kurie lietuviai iki šiol renkasi komunizmą: karjera buvo paprasta, mažiau varginančių vartotojiškų pasirinkimų, sveikatos apsauga ir švietimas buvo vienodai prieinami visiems. Padauginkite tokį nesutarimą iš 8 mlrd. žmonių ir gausite 8 mlrd. skirtingų šališkumų derinių. Vienos visiems priimtinos, nešališkos tiesos tiesiog nebus.
2. Kiekviena laboratorija įdiegia savo „teisingumo“ versiją
Odeta citavo „Anthropic“ vadovą Dario Amodei, kuris sakė, kad bendrovė nori, jog jos modeliai nereikštų stiprių ar konkrečių nuomonių, išskyrus pagrindinius demokratijos ir teisės viršenybės principus. Jos klausimas salei: kieno demokratijos? Kokių įstatymų?
Kol „Anthropic“ ir „OpenAI“ į modelius sėja principus, dėl kurių „visi gali sutarti“, xAI su Grok ieško savo tiesos, o Kinijos DeepSeek kuria savo supratimą, kas visiems teisinga. Tai ir yra lenktynės iš jos skaidrės. Kiekvieną laboratoriją sudaro šališki žmonės, ir kiekvienas modelis neša savo kūrėjų „teisingumo“ versiją.
3. Pažinkime savo šališkumus ir mokykimės sugyventi
Pabaigoje Odeta nuo kontrolės pasuko kitur. Bandymas iš AI, išmokyto iš žmonių duomenų, iššluoti kiekvieną šališkumą yra trumpalaikis rūpestis. Galbūt mūsų vaidmuo yra suprasti savo šališkumus ir išmokti sugyventi su šiuo nauju intelektu, kuris auga pajėgesnis už mus.
Jei norite, kad jūsų komanda AI naudotų aiškiai suprasdama, iš kur atsiranda jo atsakymai, pradėkite nuo AI įgūdžių programos.
Šaltiniai ir pastabos
- European Young Innovators Festival 2024, World Summit Awards.
- Festivalio puslapyje tema užrašyta „ArtificalXHuman: Boosting Innovation with Ethics“. Kurią dieną vyko Odetos pranešimas, viešai nepaskelbta, todėl dienos nenurodome.