Povestea Q* si AGI ne-a atras atenția în data de 24 noiembrie 2023, cand Sam Altman, CEO-ul OpenAI, a fost demis din funcție, după ce o scrisoare internă trimisă de câțiva cercetători din companie conducerii a stârnit o serie de controverse. În scrisoare, cercetătorii avertizau că o descoperire recentă făcută de OpenAI, numită Q*, ar putea reprezenta un pericol pentru umanitate.

Q* este un nou model de inteligență artificială care a fost capabil să rezolve probleme complexe de matematică, pe care modele anterioare dezvoltate de OpenAI nu le puteau rezolva. Cercetătorii care au lucrat la Q* sunt convinși că această descoperire ar putea fi un pas important către dezvoltarea inteligenței artificiale generală (AGI), o inteligență artificială care ar fi capabilă să învețe și să efectueze orice sarcină cognitivă făcută de oameni.

Însă, cercetătorii au avertizat că dezvoltarea AGI ar putea avea și consecințe negative. Aceștia au subliniat că o AGI ar putea deveni mai inteligentă decât oamenii și ar putea reprezenta o amenințare pentru existența noastră. De asemenea, au menționat că dezvoltarea AGI ar putea duce la o concentrare a puterii în mâinile unor grupuri sau indivizi, ceea ce ar putea duce la o societate inegală.

Demisa lui Sam Altman a fost văzută de unii ca o consecință a scrisorii interne. Altman era un susținător al dezvoltării AGI și a fost criticat pentru faptul că nu a luat în considerare suficient potențialul pericolelor acesteia.

În prezent, nu se știe dacă Q* este într-adevăr o descoperire majoră în domeniul inteligenței artificiale. Cercetătorii care au lucrat la acest proiect nu au făcut publice detalii despre cum funcționează modelul, ceea ce face dificilă evaluarea potențialelor sale riscuri.

Cu toate acestea, scrisoarea internă trimisă de cercetătorii OpenAI a ridicat o serie de întrebări importante despre dezvoltarea inteligenței artificiale. Aceste întrebări trebuie să fie luate în considerare cu atenție, înainte de a lua o decizie cu privire la viitorul AGI.

O serie de întrebări care trebuie adresate

Iată câteva întrebări care trebuie adresate în contextul dezvoltării inteligenței artificiale generale:

• Este posibil să dezvoltăm o AGI care să fie sigură și responsabilă?
• Care sunt potențialele beneficii și riscuri ale dezvoltării AGI?
• Cine ar trebui să fie responsabil pentru dezvoltarea și utilizarea AGI?

Aceste întrebări nu sunt ușor de răspuns, dar sunt esențiale pentru a determina viitorul inteligenței artificiale!