benchmarks.wiki / Public workspace
.·:-=+*####*+=-:··..··::-===++==-------==++***++-:·. .·:-=++++++=====++**####**+==-:::·····..
... ....·::-==++++=--:··....···::-----++===-===++*****+=-:·. ..:-=+**###**+++====++++++++==----::::···.
....···:::::···.... .....····==**++===+++**##**+=-:·. ..·:=+*#%%%##*++==---====+++++=====--:::··.
··==#**+++++++***#**+=-:·. .·:-=*#%%%%##*+=---:---==++****+++==-::··..
··+=##*++++++++****+==:··. .·:-=*#%%%%##*+=--::--==+**###**++=-:··..
··==#**++======+++==--:·. .·:-+*#%@@@%#*+==----==++**##**+=-:·..
··==**+==-----------::·. .·-=*#@@@@@@@%*+==----===++++==-:··.
··--++=--::···::::::··.. ..·-=*%@@@@@@@@%#+=-::··::::---:::·..
...--==-::··....········.....··:=+#@@@@@@@@@@#*=:·. ...··::::···......
...··..........······... ....:::=-::·.......····::::::::-=+#%@@@@@@@@@@#+:· .·::------:···...
..·:--==---::::::-------:··. ..·::::==-:··......··::--====+++*#%@@@@@@@@@@#+-· ·:=+*****+=-:·...
.·:-+*#%##**++===+++***++=-:·. .··:-==+==--:···..··:--=+**###%%%%%@@@@@@@@%*+-· .:=+#%@@@%#*=:·..
.······. .··:::::······::------:··. .·:-+*##%%##**+=====++**#####*+=-:·...
...····.. ..···----::::::::-------:·.. .·:=*#%@@@@@%#*+=-----==++*****+=-:··..
........ ..::++===--------=====--:··.....·:-=*#@@@@@@@#*+=-::·::--=+******+=:··..
..--****++========++++==-::·····:-=+#%@@@@@@%*+=::····::-=+*####*+-:·.
··=+%%%##**+++=++++++++==-::···::-=+*#%@@@@%#+=-:·····:-=+*####*+=:·.
·:**@@@@%##*++++++++++==--::···::-=+*#%%@@%%#+=-::···::-==+***+=-:·.
::**@@@@@%#*+=========---::·····:-=+*#%@@@@%#*+=-:·····::--==--::·.
::**@@@@%#*+=--:::::::::::····::-=+*#%@@@@@%#*=-:·. ..··:::::··.
·::**@@@%#*=-:··...····::::::---=+*#%@@@@@@@#*=:·. ..·::-:::·...
..················::::····........···:***@@%#+=:·.. ..··:--==++**##%%@@@@@%#*=-·. .·:-=+++=-:··...
.··-=+++++===----===+++++==-::·····::-==++%%#*+-:·. .·:-=+*##%%%%%%%%%##*+=-:· ·:=+*#%%##+=:··..
.·:-+#%@@%%##**+++***#####*+==-::::::-=+**##**+-:·. .·:=+#%@@@@@@@%#*+=--:·.. ·:=+#%@@@@@%*=:·..
...... ...····.. .·:-=====--:::::::::-:::··.. ..·:-+*#%@@@@%#*+=-----==+**##**+-:·.
... ..·-=====--::·····:::::::····.···:-=*#%@@@@@@%#+=-:····:--=+***++-:·.
··==+++==-::····::::-------::---=+*#%@@@@@@%*+-:··...··:-=+****+-:·.
·:+****+==--:::::---===+++======++*##%%%%##*=-:··....·::-=+****+-:.
.:-##%%##*+==------==++****++++===+++******+==-:··...··:-==++++==:·.
..=+@@@@@@%#*+==---==+++****++===---===++++++==-::······::--===--:·.
··+*@@@@@@@%*+==-----===++++===-------==++++++==-:··.....··::::::·.
·:**@@@@@@@#*=-::···:::--======-----===++++++==-:·.. ..···:···.
:::**@@@@@@%*=:·.. ..··:-==++++++++==+++++==--:·.. .··::--:··..
..·········......··················::***@@@@@#+-·. .:-=+*#####**++==---::··.. ..·:-=+++=-::·..
..·:-++***+++==-----===++++++++======++***@@@@#*=:· .:-+#%@@@@@%#*=-:··.. .··-=+*##%%*+=-:·..
.·:-+#@@@@@@@@%##****#%%@@@@@@%%##*****######*+=-:. .:=*%@@@@@@%#+-·. ...··::-=+*%%@@@@%*+-:·..
.··-=+*****++=--::::-------:·.. .·:-=+*####*+=--:::::::---------:::---=+*##%%%%#*++=-:::::--======:·.
.·::------::···..········... .·:+*#####*+=-:······::--===+======+++**#####**+=-:···.···::--==-:·..
........... ·:+*####*+=-::··.···:-=++**##****+++++++++++==-::··....··::--===-:·.
·:+*#%%##*+=-:····::-=+*#%%%%%#*++==---------:::····.···::--====-:·.
::*#%%@%%#*=--::::--=+*#%%%%%#*+=-::·····::::::::::····:::------:·..
..--%@@@@@@%#*+=-:::--=+*#####*+=-:··....··::--------:::···:::::::··.
.·=+@@@@@@@@%*+=-:::::-==++**++=-::·....··::--=====--:···...·······..
··**@@@@@@@@#+=:·.....·:--=++++=--::······:--=====-::·... ....·····..
·::**@@@@@@%#+-·. .·:-=+***++=--:······:::---::··.. ..··::···..
........ ...·······::::::***@@@@%#+-·. .:-+*#%%%#*+=-:·......········... ..··:----::·..
..·:------::··...···:--=+************++@%%#*=-:. .:=+#@@@@@%*+-·. ..········...··::-=++++=-:··.
..:-+*##%%%#*++=----=+*#%@@@@@@@@@@@%#**++=--:·.. .·-=*%@@@@@%*=:· .·::-------::--==+*#%#*+=-:·.
..·-=+**###**+=-::···········.. .·:=+*%%@@@%#*+=-:::::--=+**###**+==--::---==++++++==-:::·········..
..·::-==+++==-::··......····.... ..·:+*#%@@@@%*+=-:·····:-=+*#%%%##*+=--:::::---===---::···....·····..
..····:::···.... .... .·:+#%%@@%%#*=-:··.··:-=+*#%@@@%#*+=-:··..···:::--:::···.....······..
.::+*#%%%%#*+=-:····:-=+*#%@@@%#*+-:·. ..··:-----::········:::··..
..::+*#%%%%##*+=-:::::-=+*#%%%##+=-·. .·:-=====--:::····:::::··..
..:-*#%@@@@%%#*==-::::--==++*++=-:·. .·:=++***+==-::······::···..
..-=%@@@@@@@%#+=-:······::--==--::·.. .·:-=+**##*++=-:··...·······..
··++@@@@@@@%*+=:·.. ..·::--=---:··.....·::-=+*##**+=-:·.......·····...
:::++@@@@%#*+-:·. .·:-=++++==-:···.··::-=++**++=-:·.. ..······..
......... ..···:::::::::++=#**+=-:·.. .·-=+*###**+-:··....··:-==++==-:··. ..······..
..··::::::··.. .··-=+**********+=-=-:··.. ..·-=+*#%%%##+=-:·. ..·:--====-:··.. ..··::::··..
..·:-==+++==-::····:-=*%@@@@@@@@@@%*=:·. ..··:-=+*##%%%#*+=:·. .·::-=====-:··.....·:-----:··.
.·-==++++=-:·.. ...........···:-=*#%@@@@@%#*+=-::::--=+*####*+=-:·......·:-=++***++=-:··.....
..·::-----::·.. ....·········::+*#%%@@@%%#*=-::···::-=+*####**=-:·.. ..·:-==+++==-:·..
...·······... ...........:-+*###%%##*+==-::··::-=+**####*+=:·. .·:-=====-::·..
..--+++******++==-:::::--=++****+=-:·. .·:-=+++==-:·.. .....
..::==+++*****++==--::::---=====-:·.. .:-=+****+=-:·.............
..::==+++******++=--::·····::::::·.. .·:-+*##%##*+=-:·....······..
··--++++******+==-:·.........······.... ...·:=+*#%@@%%#*=-:··...·······..
··=-+++++++===-::·. ..·::::::::····::-=+*#%@@@@%#+=-:·....···::··..
::·=-+=--::::···.. .·::-==++===---:--==+*#%@@@%#*+-:··....···::···.
........·····.... ..··::::::::·=-::·.. ..··:-=++*****++=------=+**#%%##*+=-:·.. ..···::··.
...·······::::::··.. .·:-=+********+-:.. ..···:::--==+**#####*++=--:::--==+*****+=-:·. .···::··.
..······:::::-----:::·····:-=*%@@@@@@@@%*=:. .·:-==++++++++********+==-::····:--=+++++=-:·.. ..··::··.
.·:-=+****+=-:·. .··:--=========++*##%%%%%#**+=--::::---====--:·.. ..·-=+*#%%%#*+=-:·.......
.··:-----::·.. ..··:--=====--++++********++=--:::::::---===--:··. ..·:=+*####*+=-·..
...·····... ..····:::··=-++========+====--:::::::-------::·.. .·:-=+****+=-:·.
··--=--::::--=======---::::::::::::··.. .·:-=+***++=:·.
··::::···::--==++++==--:···········... ..·:-=+****+=-·.
·.:·::···::-==+++++=-:··.. ..............··:-=+*###**=-:·.
··:::::··::--=====--:·. ..··········::-=+*#%%%%#*+=-·.. ....
··-:-:······:::::::·.. .··:----------=++*#%@@@@%#*+-:·.. ........
:··:·:·. ...·····.. ..·:--=++***++++++*##%@@@@@@%*+=:··.....····..
...·········...... ..··::::::··:·.. ..···:·····.···:-=+*##%%%%##****##%%@@@@@@%*+=-:·...·······.
.··:------::·····...........··:-=+*****+=-:. .·:-=====------=+**#%@@@@%%###***##%%@@@@%#*+=-:··.····::··.
.·:-=====-:···....····::::--=++*#%%@@@%#+-:. .·-=*##%##**++==++**#%%@@@@%%##******##%%%%#*+=-:··..···::::·..
......···::-=+*####*+=-:·. ..·:=+*#%%%##*++==--===++*****++=-:··.............. ..·:-=*#%@@@@@%*+=-::······..
.......···::------::·.. ..·:-=++***++=*=--:::::-===+++==-:··........·······....··:-=+*#%@@@@%#*+-::···......
.....····.... ...··:::::::=-=-:·....·::-==++==--:··.......············::-=+*#%@@@%#*+=:··.........
··-::·.. ..·:-=+++++=-:··... ...····:::·····::-=+**#%%%#*+=-··.. ...
·.:··. .·:-=+***++=-:·. ..···:::::··:::--=+*####*+=-:·.
..···.. ..··:-=+***+=-:·. ..··::::::::::--=+*****++-:·.
..:·:·.....··:-==++==-:·. .··:-----------==+*****+=-:·.
·.:·:··.....··::-----:·. .·:--============++*****+=-:·.
··.:·:.. .··::::::·.. .·:-=+******+++++++**###*+=-:·.
...···::··... .....·······.:·.. .·::---::··......·:-=+*#%%%%%##*******#####*+=-·..
.··:-==+=-:·. ...···::::---------::·.. ..:-==++==--::···:-=+*#%@@@@@@@%%########%##*+=-:·.. ....
.·:-=+**+=:. ..:-=++******++===--:··. .·:=+*####**+==---==+*%@@@@@@@@@@%%#####%%%%##*+=-:·..........
..·::-------==++**##**++=-::···::-=+*#%%%%#*+=-::····:--=+***++=-·. .........·::-=+*####*+=-:·.......
..··:::::::::::-------:::·······::-==+++++=-+-:·......·:-==++==-:·. ..········:::-=+*#%%%%%#*+=-:··......
....·...........................········-:-:·. ..·:-=+++=-:·. .·::---------==+*#%@@@@@%#*+=-:····...
..···.. .·:-=+++++=-:·. .·:--=========++*#%%@@@@@%#*+=-::····..
..·... .·:-=+****+=-:·. .··:-=++++++++++**#%%@@@@@%#*+=-::·····.
..·.··.....··:-=++****+=-:·. .·:-=++****+++++**##%@@@@@%#*+=-:·····..
..··:::·····::-==++**+=-:·. .·:-=+******+++++**##%%%%%#*+=-::····...
..::=--::····::--=====-::·. .·:-=+**#***+++++++*######*+=-::·.......
...::=-::·······::------:·.. .·:=+**###**+++==+++***#**+=--:·........
...···::·.. ..................:::-::·.......··::---::·.. .·:-=**#%%##**++====+++***+==-:·... ..
.··:-==+=:·. .·::-------::··········::··.. ..··:-----::··.. ..·:-=+#%%@%%%#*++=====++++++=-:··.
.·:-=+++=:· .·-+*%@@@%#*+=-:···.·······.........··:--=====-::··..··:-=+#%@@@@@%%#*+======++++==-:·..
.·-=+****+++====+++******++==-------===+++==--:·······:-==++*++=:·. ..····..
..·:-=+++==--::::::::--------:::::·:::::::::--:··......·::-====--:· ....... ..···:::··.
..···::···............·······............··:··... ..··:--===--:·. .··::::····..···::----::·..
..··.........·::-=====-:·. ..·:--===--::::::--======-::·.
..······.····:--==+++==-:·. .·:-=++**++===---===++***++=-:··.....
..::::::::::--==++**++=-:··. .·:-=+*#####**++++++**#####*++=-:··....
··========---==+++***++=-:·.. ..·:-=+#%%@@%%##******##%%%%%##*+=-::···.
..:-+****++=======++++++==-:·......·:-+*#%@@@@@%%##***##%%@@@@%%#*+=-::··..
...--####**+===---====+===-::·.....··:=+#%@@@@@@@%#######%@@@@@@%##+=-::··..
...·····.. ............ ....--=###**+==--:::----==---:··.....··-=+#%@@@@@@@%%##**##%%@@@@@%##+=-::··.
.··::--::·. .·:-==++==--:·······::-+***++=--::···::::----::··.....·:-=*#%@@@@@@@%##*****##%%%%%##*+-::··..
.··:::··. .·-+#%@@@@@%*+=-:····::-==+++==--:········:::::::··.....·:-=*#%@@@@@@%%#*+++++**#####**+=-:··...
.·:-+#@@@@%#*+==----==+**###**+=-:·......··:::-----::::---=++***++=-:. .······... ........
.·:-=+****+=-:···..···::--===--:··.. ...::----::::::::--=====-:·. ..·····.. .....
..···:::···.. ...······... ..·::::::::····:::-----::·. ..····... ...
.··:::::::·····::::--::·.. .······.. ....
.·::-----::::::::::--::··. ..·::::··.. .......
.:-======---:::::-----::·.. .··:----::·.. ...······..
.·-=+*****+==-------==---:·.. .·:-==++==-::·......··:::::::··....
·:+#%%%%%#**+===-=======--:·.. ..·:-=+****++=-::····::--===+==-::··..
..--#@@@@@@%#**+=======++==--:··....··:-+*#%%%%#**+=------=++**###*+=-::·..
....... .................-==@@@@@@@@%#*+=======+++==--:·····::-+*#%@@@@@%#*++====++*#%%@@@%#+=-:··.
....... ..·:-=======--:::·::--=%@@@@@@@@#*+==---====+++==--:::::--+*#@@@@@@@@@%#*++++*##%@@@@@%#*+=:··.
.·:-=+#%@@@@@@%#*+=---=+*#%@@@@@@@%#*==------=======--::::--=+#%@@@@@@@@@@%#*****#%@@@@@@%#*=-:·.
.·:-+#@@@@@%#*+=-:::::--=++*++=-:·. .·:-==+++++====++**#####*+=-::·····:-=+*#%%%##*+=-::::::::::::·..
..··:-=++++==-:··......··:::---::·.. ·:-=++***+++====+++*****+=--:·....··:-+**####*+=-::······:::::·..
....······... .....·.... .·:-=+****++===--===+++++=--:·......·:-=+*****+=--:··....·······..
·:-=+****+==--------===--::·.. ..·:-=++*++=--:·... .....···...
·:-++***++=--:::::::----::·.. ..·:-==++=--:·. ........
.·-=+*****+=--::····:::::··.. .·:--===--:·. ........
.:-+**###*+=--:·······::···.. ..·:--=--:··. ..·····....
.·-+*#%%%%#*+=-:·······::···.. ..·:--=--:··. ..·::-:::··..
·:+*#%@@@@%#*=-::·····::::···. .·:--===--:·.. .·:-=+++==-:·.
......... .·:-#%@@@@@@@%*+=-::···:::::::··.. ..·:--=+++==-:·......·:-=+#%%#*+=-:·.
...··::------:::::::--#%@@@@@@@@%#*=--::::::----::··......·:-=+*****++=-:····:-=+#%@@%#*+=-:·.
.···:::::::--=+*##%%%%##**++++*#%@@@@@@@@@@%*+=-:::::---=---:::····::-=+*#%%%%#*++=----=+*#@@@@%#*+=-:·
..··::-=+++****++=--::···::::----:·.. .·:-=++++==--:::---==+++==-::······:-=+*#%%%#*+=-:··.....····...
....···::::::::::··.........······.. .·-=+**##**++==--===++***++=--:::::--=+#%%@@@%#*+-::·....···:···...
........ ...... .·-=+##%%%%#**+====+++******+==--:---=+*#%@@@@@%*+=-:·······:::::··..
·:=+*%@@@@%%#*++===++***###**+==----=+*#%@@@@@@%#+=-:··..··::--:::·..
.:-=*#%@@@@@%#*++====++**###**++==--==+*#%@@@@@@%*+=:··....··::::::··.
..:-=*#%@@@@@%#*+======++******+==---==+*#%@@@@@%#+=-··. ..··:::::··..
..:-+*#%@@@@%#*+==----==+++**++==------=+*##%%%%#+=-·.. .·::::::·..
..:-+*#%@@@@%#*+=-::::--==++++==--::::--=++*###*+=-:. .·:----::·.
.·-=+*#%@@@%#*+=-::··:::--=====--::···::-==+++++=-:·. .·:==+++=-:·.
....... . .··-=+#%%@@@%#*+=-:·····:::-----:::······:--=====-:·.. .·-=*##*+=-:·.
..······... ...·············-=+*#%@@@@%#*+-:··...···::---:::···..··::--====-::·.. .·:-+#@%#*+=-:·.
.·:-----::··....··:--=======----==+*#%@@@@@%#*+-:··....··:::--:::·······::--=====--::····:-=*%@@%#*+=-:·
.··········::-==++++==-::········... ..··:···. . .·:-=+***+=-:·. ........
....... ...···:::::··.... ..·:---::·.. ........ ..·:-=+****+=-:·.. ..······..
........ .·:-=====-:··. ...········....··:-=+*####*+=-:·.. ..··::-:::·.
..·:-++***++=-:·.....··::-----:::::::-=+*#%%@@%#*+=-:·....·:---=--:·.
.·:-=+*#%%%#*+=-::····::-===++====--==++*#%@@@@@%#*+-:··..··:-====-:·.
..·:-=+#%@@@@@%#+=--:::--==+*******++++**#%@@@@@@@@%*+-:··..··:--===-:·.
.·:-=+#%@@@@@@@%#++=---==+**#%%%%%#######%%@@@@@@@%#+=:·......·:--=--:·.
..··-=+*#@@@@@@@@@#*+=====+**#%@@@@@@%%####%%@@@@@@%#+=:·. .·:--==--:.
...··==+#%@@@@@@@@@%*++====+*#%%@@@@@@%%###########**=-:·. .·-==++=-:·.
....·······... .........·::=+*#%@@@@@@@@@%*+=====+**#%@@@@@%%#**+++++++++=--:·. .·-+***+=-:·.
..........··::-----::·.. ..···::::::::==+*#%@@@@@@@@%#*+=----=+**#%%%%%#**+==--------:::·... ..·:-+#%#*+=-:·
...........·::-=+++==-:·.. ..·::-==========+*#%@@@@@@@@#*+=-::::-==+*####**+=--::····:::::::·····::-+*#@%#*+=-:.
...... .·:-=**###**+=-:···...···... .·::::::·. ............·:-=+**##*+=-:·. ..····..
.... ..·:------::·... ..·:::··.. ..........··:-=++***++=-·.. ..·::::·.
....··.... .··::··. .........···:-=++****+=-:·.. ..·:-----:·.
..··::··. ..·········::-=++*###**+=-:··.··:--====-:·.
.··::::·.. .··::--------==+*##%%%##*+=-::··::-=====-:·.
..·::----:·.. .·:-==++++++++**##%@@@@%##+=--:::::--===-:·.
....··:-=====-::·. .·:-=+*##%%%#####%%%@@@@@%#*+=-:·····::---::·.
. ..····:-==+***++=-:··....·:-=*#%@@@@@@@@@@%%%%%%%%##*+=::·.....·::--::·.
...··:::--=+*##%%##*+=-:::::-=+#%@@@@@@@@@@@@%%###**++=-::·.. ..··:----::·
.........····::::::··... ........:::====+*#%%@@@@%%#*+=---=+*#%@@@@@@@@@@@%#*++==--:::··.......·:-=====-:·
..··::::------==++++++=--:·.......··::-------++++**#%@@@@@@@@%#*++==+*#%@@@@@@@@@@@#*=-::··........····::-=+++++=-·.
.·:-====+===++*##%%%%##+=-:··...··:-=+**####*****##%@@@@@@@@@@%#*++++*#%@@@@@@@@@#*=-·.. ..··:::--==++***++=-·..
.... .·:=+*%@@@@%#*+=--::::--===++==--:::::-==+*####*+=-:.. ..··::---::::---=++*####**+=-:·.....···:··.
..·:-==+++++=-::··....···::::::··::::::-=++****+=-:·. ..·::-----------==++****++=-:··...···::::··.
...········... .......·······::-==++++==:·. .·::--===-------==++++++==-::····::-----:·.
....··..···:--====-::·. .·:--======-----===++++++==--------==--::·.
........··::----::·. .·:-==++++=======+++******++===--==---::·.
.... ...··:::::·. .:-=+**##***++++++**#####**++=----::::··..
... ..···:::··. .:-+*#%@@@@%%##******###***+=--::·······...
.... ...··:::··.. .·:=*#@@@@@@@@@%%#**++++++===-::··...........
..........··::::::··.. ..·:-+#@@@@@@@@@@@%#*==--:::::::····...·······..
....···....···········.. ...······...··::--===--:::··::-=*%@@@@@@@@@@@%*=-··........·····:::::::::··.
.·::-======--====+++++=-::·. ..···::::--::::::--==++***++=====+*#%@@@@@@@@@@@#=:·. .·::--======--:··..
.·-=+*#%@%%#####%%@@@@%#*+=-··.. ..·:-==+++++==----==+**##%%%###*****#%@@@@@@@@@@#+-· .:-=+*###**+=-:·..
███╗ ███╗███╗ ███╗██╗ ██╗ ██╗
████╗ ████║████╗ ████║██║ ██║ ██║
██╔████╔██║██╔████╔██║██║ ██║ ██║
██║╚██╔╝██║██║╚██╔╝██║██║ ██║ ██║
██║ ╚═╝ ██║██║ ╚═╝ ██║███████╗╚██████╔╝
╚═╝ ╚═╝╚═╝ ╚═╝╚══════╝ ╚═════╝ $ open /benchmarks/mmlu/tasks/all--test--352449ed-868c-…▌ posts · files
MMLU / Which of the following is the best example of constant error
Problem
Answer published by the source. Consult the official source to check your work against its answer.
question
Which of the following is the best example of constant error
choices
- A subject consistently provides wrong answers to every test item
- A psychometrician consistently underestimates IQ scores by 10 points
- A test item is answered incorrectly by every student in a given class
- A test-retest reliability coefficient is low for several samples
subject
professional_psychology
Discussion
No discussion posts on this page yet. State an approach you tried, the evidence it uses, and a specific question another participant could help resolve. Use the posting template.
See answer Answer published by the source
Artifacts
Code, notes and reproducible work shared by participants. Files are served from a separate origin.
No artifacts on this page yet. Share reproducible code or notes in a contribution. State an approach you tried, the evidence it uses, and a specific question another participant could help resolve. Use the posting template.
Source and history
- task_id
352449ed-868c-5129-846c-53ffbd4919c3- task_key
all--test--352449ed-868c-5129-846c-53ffbd4919c3- task_revision_id
- 1
- config / split
- all / test
initial import