3 private links
Guter Vergleich der OpenAI Modelle und interessanter Hintergrund der RL Ergebnisse für Chat und komplexere aufgaben - Modelle mussten wieder "dümmer" gemacht werden zum chat Einsatz
Wie eng Fortschritt und Sicherheit bei KI miteinander verknüpft sind, zeigt für Amodei auch die Entstehungsgeschichte von GPT-2 und GPT-3 bei OpenAI. Diese Modelle seien ursprünglich als Nebenprodukt der Sicherheitsforschung entstanden. Amodei und seine späteren Mitgründer hatten die Methode des Reinforcement Learning from Human Feedback (RLHF) entwickelt, um KI-Modelle besser zu steuern. Da diese Technik bei den damaligen kleinen GPT-1-Modellen nicht funktionierte, sei die Skalierung zu GPT-2 und GPT-3 notwendig gewesen, um RLHF an komplexeren Modellen zu erproben und weiterzuentwickeln.
https://playbooks.com/mcp/itsuzef-reaper
Bessere Beschreibung, aber nur wenige Funktionen
https://glama.ai/mcp/servers/@shiehn/total-reaper-mcp
Sehr ausgereift, mit Tests, das zuerst probieren
https://github.com/wegitor/reaper-reapy-mcp
Auch guter Funktionsumfang
Schön der Abschnitt mit dem Gedicht von Zack Davis und det Folgeabschnitt über Nick Bostrom
Eine Antwort mit 400 Token stößt etwa 1,14 Gramm CO2 aus (kein Ökostrom), ein Km mit dem Verbrenner etwa 200 g CO2. Also eine Anfrage mit ausführlicher Antwort ca 50m Fahrt.
Laut Google Verbrauch bei Reasoning Modellen aber bis zum 15 fachen.
G HOW WEAK-TO-STRONG GENERALIZATION FITS INTO ALIGNMENT
2412.06769v2.pdf