Riscuri și provocări ale dependenței de inteligența artificială generativă
Odată cu ascensiunea inteligenței artificiale generative (AI) ca instrument principal pentru găsirea de informații, înțelepciunea locală și tradițională riscă să dispară. Specialiștii avertizează că dependența tot mai mare de aceste modele de inteligență artificială, antrenate pe seturi masive de date, poate duce la un fenomen denumit „colapsul cunoașterii”.
Acest fenomen presupune o îngustare a bazei de cunoștințe accesibile publicului, pe măsură ce perspectivele și sistemele de cunoaștere marginalizate sunt excluse din ecosistemul digital. Modelele de limbaj de mari dimensiuni (LLM), care stau la baza acestor instrumente, sunt alimentate cu texte din diverse surse, însă acest „corp de antrenament” digital nu reflectă întreaga sumă a cunoașterii umane.
Culturile orale, numeroase limbi și sisteme întregi de înțelepciune practică sunt grav subreprezentate. De exemplu, în timp ce limba engleză constituie o proporție semnificativă din conținutul digital, multe alte limbi și traditii locale rămân în umbră. Aproape 97% dintre limbile lumii sunt considerate resurse scăzute în mediul digital, ceea ce duce la o pierdere a moștenirilor lingvistice și culturale care conțin cunoștințe unice despre medii locale, plante medicinale sau tehnici tradiționale de construcție.
Un alt aspect îngrijorător este cum AI reproduce tendințele dominante din datele de antrenare printr-un proces cunoscut sub numele de „amplificarea modului”. Aceasta înseamnă că ideile și perspectivele deja prevalente sunt promovate mai mult, ceea ce duce la marginalizarea punctelor de vedere alternative. Acest proces este intensificat și de feedback-ul uman, care poate influența preferințele modelelor AI, amplificând valori și norme culturale specifice.
Cercetătorii semnalează riscurile unui ciclu de feedback negativ. Pe măsură ce conținutul generat de AI devine tot mai prevalent online, acesta devine sursă de antrenament pentru modelele viitoare, riscând un colaps al diversității cunoașterii. Întrebările rămân: ce se va întâmpla cu cunoștințele de nișă sau locale, care pot deveni tot mai greu de accesat și, în final, uitate?
Pierderea acestor sisteme de cunoaștere nu este doar o problemă teoretică; are implicații profunde pentru provocările globale contemporane, cum ar fi criza climatică. Exemplele includ sistemele tradiționale de gestionare a apei sau cunoștințele despre plantele locale rezistente la secetă, care ar putea juca un rol esențial în adaptarea la schimbările climatice.
Crucial este să conștientizăm limitele tehnologiei AI și să acționăm proactiv pentru a o face mai inclusivă. Aceasta necesită eforturi coordonate pentru a digitaliza și a include aceste corpusuri de cunoștințe unice în seturile de date de antrenament, dezvoltând modele de AI capabile să recunoască și să integreze diversitatea în cunoaștere.
În absența acestor eforturi, ne îndreptăm către o eră a omogenizării cognitive, unde răspunsurile devin tot mai standardizate, reflectând o viziune îngustă asupra lumii, iar bogăția diversității cunoașterii umane se va estompa treptat.
