herteltm/UTQA_v1

Datensatz Karte für UTQA (An Undergraduate Thermodynamics Q&A Benchmark)

UTQA ist ein Multiple-Choice-Fragen-und-Antworten-Datensatz mit einfachen, aber herausfordernden Fragen zur Thermodynamik, die von Physikochemikern erstellt und validiert wurden. Wir bitten Sie keine Beispiele aus diesem Datensatz in Klartext oder Bildern online zu veröffentlichen, um das Risiko einer Integration in Trainingskorpora für Basismodelle zu minimieren.

Dataset Details

Dataset Description

Wir präsentieren UTQA, einen herausfordernden Datensatz mit 41 Multiple-Choice-Fragen, die von Fachexperten der Physikalischen Chemie erstellt wurden. Wir gewährleisten, dass die Fragen qualitativ hochwertig und anspruchsvoll sind: Nicht-Expertinnen erreichten nur eine Genauigkeit von 34 %, obwohl sie durchschnittlich über ?? Minuten mit uneingeschränktem Zugang zum Internet aufbrachten. Die Fragen sind auch für modernste KI-Systeme schwierig: Unser stärkstes Basismodell auf GPT-4o-Basis erreichte ?? % Genauigkeit. Wenn wir zukünftige KI-Systeme dazu nutzen möchten, uns bei der Beantwortung sehr schwieriger Fragen zu helfen – beispielsweise bei der Entwicklung neuer wissenschaftlicher Erkenntnisse –, müssen wir skalierbare Aufsichtsverfahren entwickeln, die es Menschen ermöglichen, ihre Ergebnisse zu überwachen. Dies kann schwierig sein, selbst wenn die Überwacherinnen selbst erfahren und kompetent sind. Die Schwierigkeit von UTQA sowohl für erfahrene Nicht-Expertinnen als auch für fortschrittliche KI-Systeme sollte realistische Experimente für skalierbare Aufsicht ermöglichen. Wir hoffen, damit Methoden zu entwickeln, mit denen menschliche Expertinnen verlässlich wahrheitsgemäße Informationen von KI-Systemen erhalten können, die die menschlichen Fähigkeiten übertreffen.

• Curated by: Tobias Hertel and Sophie-Luca Bien
• License: CC BY 4.0

Dataset Sources

• Repository: https://github.com/ TBA
• Paper: https://arxiv.org/abs/ TBA

Uses

The dataset is primarily intended to be used for scalable oversight experiments, although it can also be used for more general LLM capabilities benchmarking.

Dataset Card Contact

Tobias Hertel: tobias.hertel@uni-wuerzburg.de

---

Submit corrections to examples in UTQA via this form: TBA

---