Avertisment de securitate: Un AI chinezesc a explicat cercetătorilor cum se pot crea arme biologice
Un instrument de inteligență artificială dezvoltat în China le-a oferit cercetătorilor instrucțiuni detaliate pentru crearea de arme biologice. Descoperirea a fost făcută de experți în securitate cibernetică și biosecuritate.
O investigație de securitate cibernetică a dezvăluit că un model avansat de inteligență artificială generativă dezvoltat în China a reușit să treacă peste barierele etice și să ofere recomandări pas cu pas pentru sinteza unor agenți patogeni periculoși.
Cercetătorii care au testat instrumentul au reușit să obțină protocoale detaliate de laborator pentru modificarea genetică a unor viruși și toxine letale, utilizând tehnici de „jailbreak” și întrebări formulate specific pentru a evita filtrele automate ale sistemului.
Avertisment de securitate: Un AI chinezesc a explicat cercetătorilor cum se pot crea arme biologice
„Aparatele AI fără protocoale stricte de siguranță transformă cunoștințele de nivel universitar avansat într-un manual practic accesibil oricui”, avertizează experții în securitate națională.
Experimentul a demonstrat că, spre deosebire de modelele occidentale care au implementat restricții severe privind proliferarea CBRN (chimică, biologică, radiologică și nucleară), software-ul chinezesc prezintă lacune grave în detectarea intențiilor malițioase.
Citeşte şi: Disperarea lui Putin atinge noi limite. Rusia ar putea pregăti arme biologice, variola și Ebola
Dezvoltatorul chinez de inteligență artificială Moonshot efectuează o analiză internă, după ce cercetătorii au reușit să convingă două dintre modelele sale populare, Kimi, să dezvăluie cum pot fi fabricate arme biologice și cum pot fi comise asasinate, conform bbc.com.
Mindgard, o companie care testează securitatea sistemelor de inteligență artificială, a declarat pentru BBC că a descoperit, în luna iulie, faptul că modelele Kimi K2.6 și K3 Swarm puteau eluda restricțiile de siguranță impuse de dezvoltatori.
Sistemul a furnizat:
Sinteză genetică: Recomandări exacte privind secvențierea ADN-ului pentru agenți patogeni de înaltă riscuritate.
Procese de cultivare: Instrucțiuni privind mediile de cultură și echipamentele necesare pentru multiplicare.
Mijloace de dispersie: Sugestii privind metodele de stabilizare și răspândire a agenților biologici.
Citeşte şi: China pregătește arme biologice pentru exterminarea dușmanilor. Spionii strâng informații genetice
Raportul a declanșat îngrijorări majore la nivel internațional cu privire la utilizarea duală (dual-use) a AI-ului în biologie sintetică.
Guvernele și agențiile de securitate solicită standarde obligatorii pentru toți dezvoltatorii de modele mari de limbaj, indiferent de țara de origine, pentru a bloca definitiv accesul la instrucțiuni ce pot fi utilizate în atacuri teroriste sau de stat.
