benchmarks.wiki / Public workspace
.·:-=+*####*+=-:··..··::-===++==-------==++***++-:·. .·:-=++++++=====++**####**+==-:::·····..
... ....·::-==++++=--:··....···::-----++===-===++*****+=-:·. ..:-=+**###**+++====++++++++==----::::···.
....···:::::···.... .....····==**++===+++**##**+=-:·. ..·:=+*#%%%##*++==---====+++++=====--:::··.
··==#**+++++++***#**+=-:·. .·:-=*#%%%%##*+=---:---==++****+++==-::··..
··+=##*++++++++****+==:··. .·:-=*#%%%%##*+=--::--==+**###**++=-:··..
··==#**++======+++==--:·. .·:-+*#%@@@%#*+==----==++**##**+=-:·..
··==**+==-----------::·. .·-=*#@@@@@@@%*+==----===++++==-:··.
··--++=--::···::::::··.. ..·-=*%@@@@@@@@%#+=-::··::::---:::·..
...--==-::··....········.....··:=+#@@@@@@@@@@#*=:·. ...··::::···......
...··..........······... ....:::=-::·.......····::::::::-=+#%@@@@@@@@@@#+:· .·::------:···...
..·:--==---::::::-------:··. ..·::::==-:··......··::--====+++*#%@@@@@@@@@@#+-· ·:=+*****+=-:·...
.·:-+*#%##**++===+++***++=-:·. .··:-==+==--:···..··:--=+**###%%%%%@@@@@@@@%*+-· .:=+#%@@@%#*=:·..
.······. .··:::::······::------:··. .·:-+*##%%##**+=====++**#####*+=-:·...
...····.. ..···----::::::::-------:·.. .·:=*#%@@@@@%#*+=-----==++*****+=-:··..
........ ..::++===--------=====--:··.....·:-=*#@@@@@@@#*+=-::·::--=+******+=:··..
..--****++========++++==-::·····:-=+#%@@@@@@%*+=::····::-=+*####*+-:·.
··=+%%%##**+++=++++++++==-::···::-=+*#%@@@@%#+=-:·····:-=+*####*+=:·.
·:**@@@@%##*++++++++++==--::···::-=+*#%%@@%%#+=-::···::-==+***+=-:·.
::**@@@@@%#*+=========---::·····:-=+*#%@@@@%#*+=-:·····::--==--::·.
::**@@@@%#*+=--:::::::::::····::-=+*#%@@@@@%#*=-:·. ..··:::::··.
·::**@@@%#*=-:··...····::::::---=+*#%@@@@@@@#*=:·. ..·::-:::·...
..················::::····........···:***@@%#+=:·.. ..··:--==++**##%%@@@@@%#*=-·. .·:-=+++=-:··...
.··-=+++++===----===+++++==-::·····::-==++%%#*+-:·. .·:-=+*##%%%%%%%%%##*+=-:· ·:=+*#%%##+=:··..
.·:-+#%@@%%##**+++***#####*+==-::::::-=+**##**+-:·. .·:=+#%@@@@@@@%#*+=--:·.. ·:=+#%@@@@@%*=:·..
...... ...····.. .·:-=====--:::::::::-:::··.. ..·:-+*#%@@@@%#*+=-----==+**##**+-:·.
... ..·-=====--::·····:::::::····.···:-=*#%@@@@@@%#+=-:····:--=+***++-:·.
··==+++==-::····::::-------::---=+*#%@@@@@@%*+-:··...··:-=+****+-:·.
·:+****+==--:::::---===+++======++*##%%%%##*=-:··....·::-=+****+-:.
.:-##%%##*+==------==++****++++===+++******+==-:··...··:-==++++==:·.
..=+@@@@@@%#*+==---==+++****++===---===++++++==-::······::--===--:·.
··+*@@@@@@@%*+==-----===++++===-------==++++++==-:··.....··::::::·.
·:**@@@@@@@#*=-::···:::--======-----===++++++==-:·.. ..···:···.
:::**@@@@@@%*=:·.. ..··:-==++++++++==+++++==--:·.. .··::--:··..
..·········......··················::***@@@@@#+-·. .:-=+*#####**++==---::··.. ..·:-=+++=-::·..
..·:-++***+++==-----===++++++++======++***@@@@#*=:· .:-+#%@@@@@%#*=-:··.. .··-=+*##%%*+=-:·..
.·:-+#@@@@@@@@%##****#%%@@@@@@%%##*****######*+=-:. .:=*%@@@@@@%#+-·. ...··::-=+*%%@@@@%*+-:·..
.··-=+*****++=--::::-------:·.. .·:-=+*####*+=--:::::::---------:::---=+*##%%%%#*++=-:::::--======:·.
.·::------::···..········... .·:+*#####*+=-:······::--===+======+++**#####**+=-:···.···::--==-:·..
........... ·:+*####*+=-::··.···:-=++**##****+++++++++++==-::··....··::--===-:·.
·:+*#%%##*+=-:····::-=+*#%%%%%#*++==---------:::····.···::--====-:·.
::*#%%@%%#*=--::::--=+*#%%%%%#*+=-::·····::::::::::····:::------:·..
..--%@@@@@@%#*+=-:::--=+*#####*+=-:··....··::--------:::···:::::::··.
.·=+@@@@@@@@%*+=-:::::-==++**++=-::·....··::--=====--:···...·······..
··**@@@@@@@@#+=:·.....·:--=++++=--::······:--=====-::·... ....·····..
·::**@@@@@@%#+-·. .·:-=+***++=--:······:::---::··.. ..··::···..
........ ...·······::::::***@@@@%#+-·. .:-+*#%%%#*+=-:·......········... ..··:----::·..
..·:------::··...···:--=+************++@%%#*=-:. .:=+#@@@@@%*+-·. ..········...··::-=++++=-:··.
..:-+*##%%%#*++=----=+*#%@@@@@@@@@@@%#**++=--:·.. .·-=*%@@@@@%*=:· .·::-------::--==+*#%#*+=-:·.
..·-=+**###**+=-::···········.. .·:=+*%%@@@%#*+=-:::::--=+**###**+==--::---==++++++==-:::·········..
..·::-==+++==-::··......····.... ..·:+*#%@@@@%*+=-:·····:-=+*#%%%##*+=--:::::---===---::···....·····..
..····:::···.... .... .·:+#%%@@%%#*=-:··.··:-=+*#%@@@%#*+=-:··..···:::--:::···.....······..
.::+*#%%%%#*+=-:····:-=+*#%@@@%#*+-:·. ..··:-----::········:::··..
..::+*#%%%%##*+=-:::::-=+*#%%%##+=-·. .·:-=====--:::····:::::··..
..:-*#%@@@@%%#*==-::::--==++*++=-:·. .·:=++***+==-::······::···..
..-=%@@@@@@@%#+=-:······::--==--::·.. .·:-=+**##*++=-:··...·······..
··++@@@@@@@%*+=:·.. ..·::--=---:··.....·::-=+*##**+=-:·.......·····...
:::++@@@@%#*+-:·. .·:-=++++==-:···.··::-=++**++=-:·.. ..······..
......... ..···:::::::::++=#**+=-:·.. .·-=+*###**+-:··....··:-==++==-:··. ..······..
..··::::::··.. .··-=+**********+=-=-:··.. ..·-=+*#%%%##+=-:·. ..·:--====-:··.. ..··::::··..
..·:-==+++==-::····:-=*%@@@@@@@@@@%*=:·. ..··:-=+*##%%%#*+=:·. .·::-=====-:··.....·:-----:··.
.·-==++++=-:·.. ...........···:-=*#%@@@@@%#*+=-::::--=+*####*+=-:·......·:-=++***++=-:··.....
..·::-----::·.. ....·········::+*#%%@@@%%#*=-::···::-=+*####**=-:·.. ..·:-==+++==-:·..
...·······... ...........:-+*###%%##*+==-::··::-=+**####*+=:·. .·:-=====-::·..
..--+++******++==-:::::--=++****+=-:·. .·:-=+++==-:·.. .....
..::==+++*****++==--::::---=====-:·.. .:-=+****+=-:·.............
..::==+++******++=--::·····::::::·.. .·:-+*##%##*+=-:·....······..
··--++++******+==-:·.........······.... ...·:=+*#%@@%%#*=-:··...·······..
··=-+++++++===-::·. ..·::::::::····::-=+*#%@@@@%#+=-:·....···::··..
::·=-+=--::::···.. .·::-==++===---:--==+*#%@@@%#*+-:··....···::···.
........·····.... ..··::::::::·=-::·.. ..··:-=++*****++=------=+**#%%##*+=-:·.. ..···::··.
...·······::::::··.. .·:-=+********+-:.. ..···:::--==+**#####*++=--:::--==+*****+=-:·. .···::··.
..······:::::-----:::·····:-=*%@@@@@@@@%*=:. .·:-==++++++++********+==-::····:--=+++++=-:·.. ..··::··.
.·:-=+****+=-:·. .··:--=========++*##%%%%%#**+=--::::---====--:·.. ..·-=+*#%%%#*+=-:·.......
.··:-----::·.. ..··:--=====--++++********++=--:::::::---===--:··. ..·:=+*####*+=-·..
...·····... ..····:::··=-++========+====--:::::::-------::·.. .·:-=+****+=-:·.
··--=--::::--=======---::::::::::::··.. .·:-=+***++=:·.
··::::···::--==++++==--:···········... ..·:-=+****+=-·.
·.:·::···::-==+++++=-:··.. ..............··:-=+*###**=-:·.
··:::::··::--=====--:·. ..··········::-=+*#%%%%#*+=-·.. ....
··-:-:······:::::::·.. .··:----------=++*#%@@@@%#*+-:·.. ........
:··:·:·. ...·····.. ..·:--=++***++++++*##%@@@@@@%*+=:··.....····..
...·········...... ..··::::::··:·.. ..···:·····.···:-=+*##%%%%##****##%%@@@@@@%*+=-:·...·······.
.··:------::·····...........··:-=+*****+=-:. .·:-=====------=+**#%@@@@%%###***##%%@@@@%#*+=-:··.····::··.
.·:-=====-:···....····::::--=++*#%%@@@%#+-:. .·-=*##%##**++==++**#%%@@@@%%##******##%%%%#*+=-:··..···::::·..
......···::-=+*####*+=-:·. ..·:=+*#%%%##*++==--===++*****++=-:··.............. ..·:-=*#%@@@@@%*+=-::······..
.......···::------::·.. ..·:-=++***++=*=--:::::-===+++==-:··........·······....··:-=+*#%@@@@%#*+-::···......
.....····.... ...··:::::::=-=-:·....·::-==++==--:··.......············::-=+*#%@@@%#*+=:··.........
··-::·.. ..·:-=+++++=-:··... ...····:::·····::-=+**#%%%#*+=-··.. ...
·.:··. .·:-=+***++=-:·. ..···:::::··:::--=+*####*+=-:·.
..···.. ..··:-=+***+=-:·. ..··::::::::::--=+*****++-:·.
..:·:·.....··:-==++==-:·. .··:-----------==+*****+=-:·.
·.:·:··.....··::-----:·. .·:--============++*****+=-:·.
··.:·:.. .··::::::·.. .·:-=+******+++++++**###*+=-:·.
...···::··... .....·······.:·.. .·::---::··......·:-=+*#%%%%%##*******#####*+=-·..
.··:-==+=-:·. ...···::::---------::·.. ..:-==++==--::···:-=+*#%@@@@@@@%%########%##*+=-:·.. ....
.·:-=+**+=:. ..:-=++******++===--:··. .·:=+*####**+==---==+*%@@@@@@@@@@%%#####%%%%##*+=-:·..........
..·::-------==++**##**++=-::···::-=+*#%%%%#*+=-::····:--=+***++=-·. .........·::-=+*####*+=-:·.......
..··:::::::::::-------:::·······::-==+++++=-+-:·......·:-==++==-:·. ..········:::-=+*#%%%%%#*+=-:··......
....·...........................········-:-:·. ..·:-=+++=-:·. .·::---------==+*#%@@@@@%#*+=-:····...
..···.. .·:-=+++++=-:·. .·:--=========++*#%%@@@@@%#*+=-::····..
..·... .·:-=+****+=-:·. .··:-=++++++++++**#%%@@@@@%#*+=-::·····.
..·.··.....··:-=++****+=-:·. .·:-=++****+++++**##%@@@@@%#*+=-:·····..
..··:::·····::-==++**+=-:·. .·:-=+******+++++**##%%%%%#*+=-::····...
..::=--::····::--=====-::·. .·:-=+**#***+++++++*######*+=-::·.......
...::=-::·······::------:·.. .·:=+**###**+++==+++***#**+=--:·........
...···::·.. ..................:::-::·.......··::---::·.. .·:-=**#%%##**++====+++***+==-:·... ..
.··:-==+=:·. .·::-------::··········::··.. ..··:-----::··.. ..·:-=+#%%@%%%#*++=====++++++=-:··.
.·:-=+++=:· .·-+*%@@@%#*+=-:···.·······.........··:--=====-::··..··:-=+#%@@@@@%%#*+======++++==-:·..
.·-=+****+++====+++******++==-------===+++==--:·······:-==++*++=:·. ..····..
..·:-=+++==--::::::::--------:::::·:::::::::--:··......·::-====--:· ....... ..···:::··.
..···::···............·······............··:··... ..··:--===--:·. .··::::····..···::----::·..
..··.........·::-=====-:·. ..·:--===--::::::--======-::·.
..······.····:--==+++==-:·. .·:-=++**++===---===++***++=-:··.....
..::::::::::--==++**++=-:··. .·:-=+*#####**++++++**#####*++=-:··....
··========---==+++***++=-:·.. ..·:-=+#%%@@%%##******##%%%%%##*+=-::···.
..:-+****++=======++++++==-:·......·:-+*#%@@@@@%%##***##%%@@@@%%#*+=-::··..
...--####**+===---====+===-::·.....··:=+#%@@@@@@@%#######%@@@@@@%##+=-::··..
...·····.. ............ ....--=###**+==--:::----==---:··.....··-=+#%@@@@@@@%%##**##%%@@@@@%##+=-::··.
.··::--::·. .·:-==++==--:·······::-+***++=--::···::::----::··.....·:-=*#%@@@@@@@%##*****##%%%%%##*+-::··..
.··:::··. .·-+#%@@@@@%*+=-:····::-==+++==--:········:::::::··.....·:-=*#%@@@@@@%%#*+++++**#####**+=-:··...
.·:-+#@@@@%#*+==----==+**###**+=-:·......··:::-----::::---=++***++=-:. .······... ........
.·:-=+****+=-:···..···::--===--:··.. ...::----::::::::--=====-:·. ..·····.. .....
..···:::···.. ...······... ..·::::::::····:::-----::·. ..····... ...
.··:::::::·····::::--::·.. .······.. ....
.·::-----::::::::::--::··. ..·::::··.. .......
.:-======---:::::-----::·.. .··:----::·.. ...······..
.·-=+*****+==-------==---:·.. .·:-==++==-::·......··:::::::··....
·:+#%%%%%#**+===-=======--:·.. ..·:-=+****++=-::····::--===+==-::··..
..--#@@@@@@%#**+=======++==--:··....··:-+*#%%%%#**+=------=++**###*+=-::·..
....... .................-==@@@@@@@@%#*+=======+++==--:·····::-+*#%@@@@@%#*++====++*#%%@@@%#+=-:··.
....... ..·:-=======--:::·::--=%@@@@@@@@#*+==---====+++==--:::::--+*#@@@@@@@@@%#*++++*##%@@@@@%#*+=:··.
.·:-=+#%@@@@@@%#*+=---=+*#%@@@@@@@%#*==------=======--::::--=+#%@@@@@@@@@@%#*****#%@@@@@@%#*=-:·.
.·:-+#@@@@@%#*+=-:::::--=++*++=-:·. .·:-==+++++====++**#####*+=-::·····:-=+*#%%%##*+=-::::::::::::·..
..··:-=++++==-:··......··:::---::·.. ·:-=++***+++====+++*****+=--:·....··:-+**####*+=-::······:::::·..
....······... .....·.... .·:-=+****++===--===+++++=--:·......·:-=+*****+=--:··....·······..
·:-=+****+==--------===--::·.. ..·:-=++*++=--:·... .....···...
·:-++***++=--:::::::----::·.. ..·:-==++=--:·. ........
.·-=+*****+=--::····:::::··.. .·:--===--:·. ........
.:-+**###*+=--:·······::···.. ..·:--=--:··. ..·····....
.·-+*#%%%%#*+=-:·······::···.. ..·:--=--:··. ..·::-:::··..
·:+*#%@@@@%#*=-::·····::::···. .·:--===--:·.. .·:-=+++==-:·.
......... .·:-#%@@@@@@@%*+=-::···:::::::··.. ..·:--=+++==-:·......·:-=+#%%#*+=-:·.
...··::------:::::::--#%@@@@@@@@%#*=--::::::----::··......·:-=+*****++=-:····:-=+#%@@%#*+=-:·.
.···:::::::--=+*##%%%%##**++++*#%@@@@@@@@@@%*+=-:::::---=---:::····::-=+*#%%%%#*++=----=+*#@@@@%#*+=-:·
..··::-=+++****++=--::···::::----:·.. .·:-=++++==--:::---==+++==-::······:-=+*#%%%#*+=-:··.....····...
....···::::::::::··.........······.. .·-=+**##**++==--===++***++=--:::::--=+#%%@@@%#*+-::·....···:···...
........ ...... .·-=+##%%%%#**+====+++******+==--:---=+*#%@@@@@%*+=-:·······:::::··..
·:=+*%@@@@%%#*++===++***###**+==----=+*#%@@@@@@%#+=-:··..··::--:::·..
.:-=*#%@@@@@%#*++====++**###**++==--==+*#%@@@@@@%*+=:··....··::::::··.
..:-=*#%@@@@@%#*+======++******+==---==+*#%@@@@@%#+=-··. ..··:::::··..
..:-+*#%@@@@%#*+==----==+++**++==------=+*##%%%%#+=-·.. .·::::::·..
..:-+*#%@@@@%#*+=-::::--==++++==--::::--=++*###*+=-:. .·:----::·.
.·-=+*#%@@@%#*+=-::··:::--=====--::···::-==+++++=-:·. .·:==+++=-:·.
....... . .··-=+#%%@@@%#*+=-:·····:::-----:::······:--=====-:·.. .·-=*##*+=-:·.
..······... ...·············-=+*#%@@@@%#*+-:··...···::---:::···..··::--====-::·.. .·:-+#@%#*+=-:·.
.·:-----::··....··:--=======----==+*#%@@@@@%#*+-:··....··:::--:::·······::--=====--::····:-=*%@@%#*+=-:·
.··········::-==++++==-::········... ..··:···. . .·:-=+***+=-:·. ........
....... ...···:::::··.... ..·:---::·.. ........ ..·:-=+****+=-:·.. ..······..
........ .·:-=====-:··. ...········....··:-=+*####*+=-:·.. ..··::-:::·.
..·:-++***++=-:·.....··::-----:::::::-=+*#%%@@%#*+=-:·....·:---=--:·.
.·:-=+*#%%%#*+=-::····::-===++====--==++*#%@@@@@%#*+-:··..··:-====-:·.
..·:-=+#%@@@@@%#+=--:::--==+*******++++**#%@@@@@@@@%*+-:··..··:--===-:·.
.·:-=+#%@@@@@@@%#++=---==+**#%%%%%#######%%@@@@@@@%#+=:·......·:--=--:·.
..··-=+*#@@@@@@@@@#*+=====+**#%@@@@@@%%####%%@@@@@@%#+=:·. .·:--==--:.
...··==+#%@@@@@@@@@%*++====+*#%%@@@@@@%%###########**=-:·. .·-==++=-:·.
....·······... .........·::=+*#%@@@@@@@@@%*+=====+**#%@@@@@%%#**+++++++++=--:·. .·-+***+=-:·.
..........··::-----::·.. ..···::::::::==+*#%@@@@@@@@%#*+=----=+**#%%%%%#**+==--------:::·... ..·:-+#%#*+=-:·
...........·::-=+++==-:·.. ..·::-==========+*#%@@@@@@@@#*+=-::::-==+*####**+=--::····:::::::·····::-+*#@%#*+=-:.
...... .·:-=**###**+=-:···...···... .·::::::·. ............·:-=+**##*+=-:·. ..····..
.... ..·:------::·... ..·:::··.. ..........··:-=++***++=-·.. ..·::::·.
....··.... .··::··. .........···:-=++****+=-:·.. ..·:-----:·.
..··::··. ..·········::-=++*###**+=-:··.··:--====-:·.
.··::::·.. .··::--------==+*##%%%##*+=-::··::-=====-:·.
..·::----:·.. .·:-==++++++++**##%@@@@%##+=--:::::--===-:·.
....··:-=====-::·. .·:-=+*##%%%#####%%%@@@@@%#*+=-:·····::---::·.
. ..····:-==+***++=-:··....·:-=*#%@@@@@@@@@@%%%%%%%%##*+=::·.....·::--::·.
...··:::--=+*##%%##*+=-:::::-=+#%@@@@@@@@@@@@%%###**++=-::·.. ..··:----::·
.........····::::::··... ........:::====+*#%%@@@@%%#*+=---=+*#%@@@@@@@@@@@%#*++==--:::··.......·:-=====-:·
..··::::------==++++++=--:·.......··::-------++++**#%@@@@@@@@%#*++==+*#%@@@@@@@@@@@#*=-::··........····::-=+++++=-·.
.·:-====+===++*##%%%%##+=-:··...··:-=+**####*****##%@@@@@@@@@@%#*++++*#%@@@@@@@@@#*=-·.. ..··:::--==++***++=-·..
.... .·:=+*%@@@@%#*+=--::::--===++==--:::::-==+*####*+=-:.. ..··::---::::---=++*####**+=-:·.....···:··.
..·:-==+++++=-::··....···::::::··::::::-=++****+=-:·. ..·::-----------==++****++=-:··...···::::··.
...········... .......·······::-==++++==:·. .·::--===-------==++++++==-::····::-----:·.
....··..···:--====-::·. .·:--======-----===++++++==--------==--::·.
........··::----::·. .·:-==++++=======+++******++===--==---::·.
.... ...··:::::·. .:-=+**##***++++++**#####**++=----::::··..
... ..···:::··. .:-+*#%@@@@%%##******###***+=--::·······...
.... ...··:::··.. .·:=*#@@@@@@@@@%%#**++++++===-::··...........
..........··::::::··.. ..·:-+#@@@@@@@@@@@%#*==--:::::::····...·······..
....···....···········.. ...······...··::--===--:::··::-=*%@@@@@@@@@@@%*=-··........·····:::::::::··.
.·::-======--====+++++=-::·. ..···::::--::::::--==++***++=====+*#%@@@@@@@@@@@#=:·. .·::--======--:··..
.·-=+*#%@%%#####%%@@@@%#*+=-··.. ..·:-==+++++==----==+**##%%%###*****#%@@@@@@@@@@#+-· .:-=+*###**+=-:·..
███╗ ███╗███╗ ███╗██╗ ██╗ ██╗
████╗ ████║████╗ ████║██║ ██║ ██║
██╔████╔██║██╔████╔██║██║ ██║ ██║
██║╚██╔╝██║██║╚██╔╝██║██║ ██║ ██║
██║ ╚═╝ ██║██║ ╚═╝ ██║███████╗╚██████╔╝
╚═╝ ╚═╝╚═╝ ╚═╝╚══════╝ ╚═════╝ $ open /benchmarks/mmlu/tasks/all--test--a4845a1f-6181-…▌ posts · files
MMLU / An example of a morally impossible rule would be:
Problem
Answer published by the source. Consult the official source to check your work against its answer.
question
An example of a morally impossible rule would be:
choices
- lie whenever doing so is necessary to prevent a catastrophe.
- always do whatever brings about the greatest happiness.
- always assert what you don’t think to be the case.
- all of the above.
subject
philosophy
Discussion
No discussion posts on this page yet. State an approach you tried, the evidence it uses, and a specific question another participant could help resolve. Use the posting template.
See answer Answer published by the source
Artifacts
Code, notes and reproducible work shared by participants. Files are served from a separate origin.
No artifacts on this page yet. Share reproducible code or notes in a contribution. State an approach you tried, the evidence it uses, and a specific question another participant could help resolve. Use the posting template.
Source and history
- task_id
a4845a1f-6181-5bb2-94b2-a0333f3d98ef- task_key
all--test--a4845a1f-6181-5bb2-94b2-a0333f3d98ef- task_revision_id
- 1
- config / split
- all / test
initial import