K+F fejlesztés a Zoosh Magyarország Kft-nél

A projekt tartalmának részletes bemutatása:

Projektünk célja, hogy egy olyan keretrendszer készüljön, amely segítségével gazdaságosan lehet olyan AI alapú megoldásokat készíteni, amelyek nem csak asszisztensi (copilot) segítséget tudnak adni azalkalmazottaknak (kérdésekre válaszolni), hanem amelyek önállóan is tudnak feladatokat elvégezni, és ezen feladatokra fejlesztés nélkül, hagyományos emberi utasítással is kérhetőek (ez alatt értve a tágabb „agent”, vagy „ügynök” megfogalmazást). Ezáltal a „betanítás” részben nem egyedi fejlesztéssel, se nem munkafolyamatok fejlesztésével történne egy munkafolyamat rendszerben (WMS, workflow management system), hanem írásbeli/szóbeli utasítással. Fontos ehhez hozzátenni, hogy az utasítások nem csak egyszeriek lehetnek (hiszen így még mindig embernek kell kiadnia azokat), hanem vonatkozhatnak a jövőre, ismétlődésre, feltételekre épülve, céges (iparági) ismeretekre is. Így tehát ezzel a fejlesztéssel egyaránt tudunk gazdaságos, rugalmas, tanuló és nem hozzáértő által is kezelhető szellemi munkát végző rendszereket készíteni, amely új műszaki eredmény. Tehát egy olyan keretrendszert fejlesztünk ki, mellyel generatív AI-on alapuló, rugalmas, tanuló eszközök készíthetőek, amelyek:
- Asszisztensként kérdésekre is tudnak válaszolni, de önállóan a háttérben is működni;
- Szabad szavasan megfogalmazott utasításra tudnak cselekedni;
- Szabad szavasan megfogalmazott utasítás alapján önállóan feladatot végezni a jövőben, beavatkozás
nélkül;
- Tanulni és emlékezni a beszélgetésbe és instrukciókba foglalt tények,
információk alapján;
- A gyárin túl tetszőleges képességekkel (integrációkkal) bővíthetőek „plugin”-eken keresztül;
- Biztonságosak, mert egyes cselekvéseik jóváhagyásokhoz köthetőek;
- Proaktívan kommunikálnak, további információ szükségessége vagy hibák esetén;
- Aktívan részt vehetnek több emberi szereplős csoportos kommunikációban/tevékenységben is.

Az új generációs ügynökök készítéséhez több új eredményre van szükségünk:
1. Bár van, hogy egy modell hozzáfér a betanítási adathalmazán kívül eső ismeretekhez, ún. rövid-
illetve hosszútávú memóriát különböző adatbázisokkal megvalósítva, több ilyen együttes használatára
és együttműködésére jelenleg nincs bevált módszer.
2. Az AI alapú ügynökök leggyakrabban valamilyen kérdés-válasz formában működnek. Nincs arra
példa, hogy másképp közelítik meg a dolgot, és 1 hosszú folyamatban való állomásnak/szünetnek
tekintünk
egy köztes kommunikációt.
3. Létezik példa arra, hogy beépített utasítás hatására a modell beazonosít információdarabkákat egy
emberi kérésben megjegyzés céljából. Az azonban kutatást igényel, hogyan lehet elkülöníteni a
bemenetben
3.1) az adott emberre vonatkozó információkat,
3.2) a cégre és folyamatokra vonatkozó általános információkat,
3.3) ezeket milyen szabályozók tegyék
bizonyos mértékben „szkeptikussá” (a hibák, vagy kártékony szándék felismerése miatt), stb.
4. Az AI ügynökök jelenleg egy konkrét emberi utasításra, vagy előre meghatározott/beprogramozott
kiváltó okokra végeznek el valamit. A mi célunk, hogy a megoldásunk viszont implicit megszólítás
esetén, ráutalás esetén is megszólítva érezze magát, illetve folyamatosan értékelve a helyzetet akár
közbe is szóljon (hasznos információval, kérdéssel, stb.).
Projektünk az alábbi, fejlett digitális technológiák alkalmazásával valósul meg:
1. Mesterséges intelligencia (AI) technológiák: A projekt központi eleme LLM-ek (Large Language
Model) használata. LLM generatív AI modellek értelmezik a felhasználói kéréseket és információkat,
végeznek kommunikációt a különböző résztvevőkkel. A feladatok lépésekre bontása és az egyes lépések
végrehajtásának koordinálása is LLM modellek segítségével történik. A tanuláshoz, emlékek
tárolásához LLM-alapú ún. embedding technikákat is használunk.
2. Új generációs felhő- és peremhálózati technológiák: A kedvező erőforrások kihasználása érdekében a
rendszer telepítése mindenképpen a felhőbe javasolt. Amennyiben az adatok földrajzi
helye fontos, az adott régióba tartozó adatközpont használható. A felhős technológiák nem csupán egy
egyszerű futtatási környezetet tudnak biztosítani, hanem az elérhető menedzselt szolgáltatások által a
megoldás biztonságosabbá, skálázhatóvá tehető, és a fejlesztési idő is csökkenthető (pl. konténer alapú
szolgáltatások, message queue, lambda, stb.). Vizsgálni fogjuk, milyen további felhős eszközök
felhasználása tudja még jobban megkönnyíteni a rendszer kifejlesztését és üzemeltetését. A már
megszokott menedzselt szolgáltatások mellett megjelentek LLM-ekhez készült menedzselt
szolgáltatások is. mint pl. grounding, context caching,
tartalomszűrők, stb.
3. Új generációs szoftverfejlesztési technológiák, programozási nyelvek és technológiák: A rendszer
modern, Node.JS és TypeScript alapú programozási nyelv felhasználásával készül.

A projekt tervezett befejezési dátuma: 2028.02.05.

A projekt az Európai Unió támogatásával, a magyar állam társfinanszírozásával valósul meg.