A fejlesztés központi eleme az úgynevezett unlearning technológia, amely mérföldkő lehet az MI adatkezelési képességeinek fejlesztésében. Az IBM kutatói szerint az új módszer lehetővé teszi a modellek számára, hogy megbízhatóbbak legyenek, jobban kezeljék az érzékeny adatokat, és megfeleljenek az olyan adatvédelmi előírásoknak, mint az EU GDPR szabályozása. Ez nem csupán technológiai előrelépést jelent, hanem az etikus adatkezelés és a vállalati bizalom új szintjét is megteremtheti a mesterséges intelligencia alkalmazásában.
Hogyan működik az unlearning?
Az unlearning – vagyis a „fordított tanulás” – lényege, hogy a már betanított MI-modellekből célzottan eltávolítják a nem kívánt adatokat, például félrevezető információkat, etikai problémákat okozó tartalmakat, vagy akár érzékeny személyes adatokat. Mindezt anélkül teszik meg, hogy újraindítanák a teljes tanulási folyamatot, ami jelentős idő- és költségmegtakarítást eredményez.
Ez különösen fontos a nagy nyelvi modellek esetében, amelyek hatalmas mennyiségű internetes adatot dolgoznak fel, és így gyakran találkoznak nem megbízható vagy toxikus információkkal. Az unlearning lehetővé teszi, hogy a modellekben megmaradjanak az értékes tanult tartalmak, miközben célzottan eltávolítják belőlük azokat az elemeket, amelyek problémásak lehetnek – legyen szó torzításokról, előítéletekről vagy éppen adatvédelmi problémákról.
Az adatvédelem és a megbízhatóság új szintje
Az új technológia egyik legfontosabb előnye, hogy lehetőséget ad az MI-rendszerek számára az érzékeny adatok kezelésére és törlésére, amikor arra jogszabályi vagy etikai okokból szükség van. Az EU-s GDPR szabályozás például lehetőséget ad arra, hogy az emberek kérvényezzék személyes adataik törlését. Az unlearning technológia
megoldást kínál arra az eddig bonyolult problémára, hogy a mesterséges intelligencia modellekből hatékonyan eltávolíthassanak ilyen adatokat.
Ezzel a megoldással a vállalatok és intézmények biztosíthatják, hogy az általuk használt MI-modellek megfeleljenek a jogi előírásoknak, miközben a döntéshozók is nagyobb bizalommal fordulhatnak az MI-alapú megoldások felé. Az IBM szerint az unlearning technológia a megbízhatóság növelése mellett hosszú távon segíthet az MI-modellek tökéletesítésében és biztonságosabbá tételében.
Miért van erre szükség?
A mesterséges intelligencia fejlesztése során az adatok minősége kulcsfontosságú. Ha egy MI rossz adatok alapján tanul, az nem csak félrevezető válaszokat eredményezhet, de akár súlyos következményekkel is járhat a döntéshozatalban. Az IBM szakemberei szerint a toxikus adatok eltávolítása nemcsak a modellek pontosságát javítja, hanem az etikusságot és a megbízhatóságot is erősíti.
Az unlearning technológia különösen fontos lehet azoknál a generatív nyelvi modelleknél, amelyek a mindennapi alkalmazásokban – például ügyfélszolgálatok, döntéstámogatás vagy kreatív tartalomkészítés során – nagy mennyiségű adatot dolgoznak fel.
A toxikus vagy előítéletes válaszok csökkentése nemcsak az adatbiztonságot, hanem a felhasználói élményt is javítja.
Az MI jövője
Ahogy a mesterséges intelligencia egyre nagyobb szerepet kap a mindennapokban, a megbízhatóság és az etikus adatkezelés iránti igény is nő. Az unlearning technológia nemcsak az MI-fejlesztők számára kínál új lehetőségeket, hanem a vállalati és intézményi szféra számára is, akik így bátrabban és nagyobb bizalommal alkalmazhatják a mesterséges intelligenciát. Az IBM megoldása új mércét állíthat az MI-fejlesztések és alkalmazások terén, miközben hozzájárul az adatvédelem és a technológiai etika új szintre emeléséhez.
(via 24.hu)
