Lider din industria AI: „Omenirea trebuie să se trezească”. Care sunt pericolele inteligenței artificiale

Într-un eseu publicat luni, Amodei descrie riscurile care ar putea apărea dacă inteligența artificială se dezvoltă fără suficiente măsuri de control, de la pierderi masive de locuri de muncă până la bioterorism.

„Omenirea este pe punctul de a primi o putere aproape de neimaginat și este profund neclar dacă sistemele noastre sociale, politice și tehnologice au maturitatea necesară pentru a o folosi”, a scris Amodei.

Citește și: Inteligența artificială devine personală: Google conectează Gmail, YouTube și Foto într-un „creier digital”

Lider din industria AI: „Omenirea trebuie să se trezească”. Care sunt pericolele inteligenței artificiale

Eseul reprezintă un avertisment dur venit din partea unuia dintre cei mai influenți antreprenori din industria AI, potrivit căruia măsurile de siguranță din jurul inteligenței artificiale sunt insuficiente, relatează Financial Times, citat de mediafax.

Citește și: GMail se schimbă radical. Google va pune în centru inteligenţa artificială, iar Gemini va fi vedeta sa

Amodei prezintă riscurile care ar putea apărea odată cu apariția a ceea ce el numește sisteme „AI puternice”, care ar fi „mult mai capabile decât orice laureat al Premiului Nobel”, și pe care le consideră probabile în următorii „câțiva ani”.

Printre riscurile menționate de CEO-ul Anthropic se numără posibilitatea ca indivizi să dezvolte arme biologice capabile să ucidă milioane de oameni sau, „în cel mai rău caz, chiar să distrugă toată viața de pe Pământ”.

„Un individ instabil, singuratic, care poate comite un atac armat într-o școală, dar probabil nu poate construi o armă nucleară sau declanșa o pandemie… va fi ridicat acum la nivelul de competență al unui virusolog cu doctorat”, a scris Amodei.

El atrage atenția și asupra posibilității ca inteligența artificială să „scape de sub control și să domine omenirea” sau să consolideze regimuri autoritare, conducând la „o dictatură totalitară globală”.

Amodei, a cărui companie Anthropic este principalul rival al OpenAI, dezvoltatorul ChatGPT, s-a aflat în conflict cu David Sacks, responsabilul administrației președintelui Donald Trump, în privința direcției reglementării în SUA.

În eseu, Amodei avertizează asupra unor pierderi masive de locuri de muncă și asupra unei „concentrări a puterii economice” și a bogăției în Silicon Valley, ca efect al inteligenței artificiale.

„Aceasta este capcana: AI este atât de puternică, o miză atât de strălucitoare, încât este extrem de dificil pentru civilizația umană să impună orice fel de constrângeri”, a adăugat el.

Dario Amodei s-a numărat printre primii angajați ai OpenAI, însă a părăsit compania în 2020 pentru a co-fonda Anthropic, după neînțelegeri cu Sam Altman legate de direcția de dezvoltare și măsurile de siguranță ale inteligenței artificiale.