Compania Anthropic blochează utilizarea inteligenţei artificiale pentru cercetări în domeniul armelor biologice

Compania Anthropic a blocat tentativele de utilizare a inteligenței artificiale Claude în cercetări legate de arme biologice. Aceasta a observat că cercetătorii din zone cu acces restricționat au încercat să acceseze AI-ul pentru scopuri neclare, unele fiind legate de autorități locale. Deși modelele de AI refuză asistența pentru arme biologice, intențiile cercetătorilor pot fi greu de distins. În unele cazuri, Claude a fost folosit pentru redactarea cererilor de finanțare pentru studii care implicau modificări ale virusurilor, ceea ce poate fi periculos. Anthropic a subliniat că aceste cercetări pot avea atât aplicații medicale, cât și riscuri de utilizare în scopuri militare.