- cs.CLContextual Linear Activation Steering of Language ModelsBrandon Hsu, Daniel Beaglehole, Adityanarayanan Radhakrishnan, Mikhail Belkin
Pour modifier le comportement d’un modèle de langage, on peut ajouter à ses calculs une direction associée à un concept, mais cette méthode applique généralement la même intensité à chaque situation. Les auteurs proposent de faire varier cette intensité selon …
- cs.AIWMIP: A Working-Memory-Inspired Programmable Probe of Cumulative State Tracking in Large Language ModelsDengzhe Hou, Lingyu Jiang, Deng Li, Zirui Li, Fangzhou Lin, Kazunori D Yamada
Les auteurs créent un test qui vérifie si des modèles de langage savent suivre une suite de changements numériques et répondre sur l’état obtenu. Sur 18 modèles, les résultats montrent que réussir un calcul simple ne garantit pas de suivre …
- cs.AIOn Discovering Algorithms for Adversarial Imitation LearningShashank Reddy Chirra, Jayden Teoh, Praveen Paruchuri, Pradeep Varakantham
L’apprentissage par imitation apprend à reproduire les décisions d’un expert, mais les méthodes existantes peuvent être instables. Les auteurs utilisent un processus guidé par un modèle de langage pour découvrir comment convertir les comparaisons entre expert et apprenant en récompenses, …
Chaque jour de semaine, les nouveaux articles de vos catégories, chacun avec un court résumé. Voir un digest complet →