Vilnius AI Summit 2025: atvirojo kodo AI verslui
2025 m. balandžio 15 d. Odeta Isevičiūtė skaitė pranešimą Vilnius AI Summit 2025 konferencijoje, kurią Vilniuje organizavo AI.LT. Pranešimo tema: „Beyond ChatGPT: Unlocking More Control, Flexibility, and ROI with Open-Source AI“.
Apie renginį
Vilnius AI Summit yra AI.LT konferencija verslo sprendimų priėmėjams. 2025 m. ji vyko balandžio 15–16 d. „Radisson Blu Hotel Lietuva“ viešbutyje Vilniuje: daugiau nei 60 pranešimų ir dirbtuvių penkiose scenose.
Ką darėme
Odeta kalbėjo pirmąją konferencijos dieną. Pranešimas buvo skirtas vadovams, kurie po pirmųjų mėnesių su ChatGPT ar Gemini svarsto, ant ko statyti toliau. Ji palygino uždarus ir atvirus AI modelius, apžvelgė pagrindinius atvirus modelius ir parodė, kaip įmonė gali paleisti atvirą modelį savo sąlygomis.
Pastaba dėl laiko: tai 2025 m. balandžio vaizdas. Atviri modeliai nuo tada smarkiai pasistūmėjo, tad modelių detales žemiau skaitykite kaip to pavasario būklę.
Trys mintys iš pranešimo
1. Atviri modeliai suteikia pritaikymo laisvę
Paruošti įrankiai, tokie kaip ChatGPT ir Gemini, yra patogūs, ir Odeta tiesiai įvardijo jų trūkumus: priklausomybė nuo vieno tiekėjo, jautrūs duomenys apdorojami išorėje, nuo naudojimo priklausančios išlaidos, kurios nenuspėjamai auga plečiantis naudojimui, ir maža galimybė keisti modelio elgesį toliau nei promptas.
Atviri modeliai, tokie kaip Mistral, Llama ir DeepSeek, verslui atiduoda kodą, svorius ir laisvę derinti modelio elgesį, toną ir tikslumą pagal savo poreikius. Didžiausia tuometinė spraga Lietuvos įmonėms buvo kalba: Llama jau palaikė estų ir latvių kalbas, o lietuvių dar ne.
2. Duomenų kontrolę lemia talpinimo pasirinkimas
Nuosavas modelis apsaugo duomenis tik tada, kai pasirenkate ir tai, kur jis veikia. Odeta išdėstė tris talpinimo variantus:
- Debesija (pavyzdžiui, AWS, Azure ar Hugging Face): greitai paleidžiama ir prižiūrima tiekėjo, o „serverless“ ir automatinio mastelio sprendimai mažina kaštus netolygiam krūviui. Kaina: išlaidos dideliais kiekiais ir priklausomybė nuo tiekėjo.
- Savi serveriai įmonėje: didžiausia kontrolė ir visiškas duomenų privatumas, o nauja AI pritaikyta įranga pigina modelių veikimą viduje. Kaina: pradinės investicijos ir priežiūra.
- Paskirstyti GPU tinklai (pavyzdžiui, NeurochainAI ar Together AI): skaičiavimo galia iš daugelio tiekėjų ir aiškesnis kaštų matomumas. Tai dar ankstyvas būdas, reikalaujantis šiek tiek išmanyti decentralizuotą infrastruktūrą.
Pranešime aptarta, kaip atvirą modelį, pavyzdžiui, Mistral-7B, paleisti tokioje infrastruktūroje ir kaip palyginti jo našumą, kainą ir lankstumą.
3. Kainą vertinkite pagal savo naudojimą ir strategiją
Odetos palyginimo lentelė kompromisą parodė aiškiai. Uždarus modelius pigu pradėti, nereikia infrastruktūros, jie dažnai pirmauja testuose, tačiau mokate už kiekvieną naudojimą, o jūsų planai priklauso nuo tiekėjo plano. Atviri modeliai pradžioje kainuoja daugiau infrastruktūrai, kompetencijoms ir paruošimui, bet vėliau leidžia laisvai keisti modelį ar talpinimą. Jos patarimas sprendimų priėmėjams: debesiją, savus serverius ir decentralizuotą talpinimą vertinkite pagal realų AI naudojimą, biudžetą ir ilgalaikius planus.
Jei jūsų komandai reikia nuspręsti, ant kokių AI įrankių statyti, tai kartu išsiaiškiname AI galimybių programoje.
Šaltiniai ir pastabos
- AI.LT, Vilnius AI Summit organizatorius.
- AI.LT profilis, village.ai.
- Modelių kalbų palaikymas ir talpinimo variantai atspindi atvirojo kodo AI būklę 2025 m. balandį.