{"kind":"task","effective_mode":"full","benchmark":{"kind":"benchmark","effective_mode":"full","slug":"arc-agi-2","formal_name":"ARC-AGI-2","introduction":"ARC-AGI-2 evaluates the ability to infer unfamiliar rules from a few examples and apply them to new grids. Training and evaluation are separate; this import covers the 120 public evaluation tasks.","introduction_ja":"","introduction_en":"","category":"Category not supplied","task_count":null,"acquisition_status":"Acquisition status not supplied","official_url":"https://github.com/arcprize/ARC-AGI-2","indexing_mode":"noindex","profile":{"resources":[],"task_format":"","scoring":"","metric":"","size":"","answer_access":"","license":"","citation":"","maintainer":"","released":"","why_hard":"","related":[]}},"task_id":"6d5b4bc2-ae69-562c-875e-7a1ad65385ba","task_key":"evaluation--e87109e9","task_revision_id":"3","upstream_id":"e87109e9","short_description":"ARC-AGI-2 evaluation e87109e9","config":"","split":"evaluation","body":"{\"test\":[{\"input\":[[5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5],[5,1,0,0,0,5,5,0,0,0,3,5,5,2,0,0,0,5,5,4,0,0,0,5],[5,1,0,0,0,5,5,0,0,0,3,5,5,2,0,0,0,5,5,4,0,0,0,5],[5,1,0,0,0,5,5,0,0,0,3,5,5,2,0,0,0,5,5,4,0,0,0,5],[5,1,0,0,0,5,5,0,0,0,3,5,5,2,0,0,0,5,5,4,0,0,0,5],[5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5],[2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,3,3,3],[2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,3,3,3],[2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,3,3,3],[9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,3,3,3],[9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,3,3,3],[9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,3,3,3],[1,1,1,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,3,3,3],[1,1,1,9,9,9,9,9,8,8,8,9,9,9,9,9,9,9,9,9,9,3,3,3],[1,1,1,9,9,9,9,9,8,8,8,9,9,9,9,9,9,9,9,9,9,3,3,3],[1,1,1,9,9,9,9,9,8,8,8,9,9,9,9,9,9,9,9,9,9,3,3,3],[1,1,1,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,3,3,3],[1,1,1,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,3,3,3],[1,1,1,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,3,3,3],[1,1,1,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9],[1,1,1,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9],[1,1,1,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9],[9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9],[9,9,9,9,9,9,9,4,4,4,4,4,4,4,4,4,9,9,9,9,9,9,9,9],[9,9,9,9,9,9,9,4,4,4,4,4,4,4,4,4,9,9,9,9,9,9,9,9],[9,9,9,9,9,9,9,4,4,4,4,4,4,4,4,4,9,9,9,9,9,9,9,9],[9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9],[9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9],[9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9],[9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9,9]]}],\"train\":[{\"input\":[[5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5],[5,1,0,0,0,5,5,6,0,0,0,5,5,4,0,0,0,5,5,2,0,0,0,5],[5,1,0,0,0,5,5,6,0,0,0,5,5,4,0,0,0,5,5,2,0,0,0,5],[5,1,0,0,0,5,5,6,0,0,0,5,5,4,0,0,0,5,5,2,0,0,0,5],[5,1,0,0,0,5,5,6,0,0,0,5,5,4,0,0,0,5,5,2,0,0,0,5],[5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5],[3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[1,1,1,1,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[1,1,1,1,3,3,3,3,3,3,3,3,3,3,3,3,3,3,4,4,4,4,3,3],[1,1,1,1,3,3,3,3,3,3,3,3,3,3,3,3,3,3,4,4,4,4,3,3],[1,1,1,1,3,3,3,3,3,3,3,3,3,3,3,3,3,3,4,4,4,4,3,3],[1,1,1,1,3,3,3,3,8,8,3,3,3,3,3,3,3,3,4,4,4,4,3,3],[1,1,1,1,3,3,3,3,8,8,3,3,3,3,3,3,3,3,4,4,4,4,3,3],[1,1,1,1,3,3,3,3,3,3,3,3,3,3,3,3,3,3,4,4,4,4,3,3],[1,1,1,1,3,3,3,3,3,3,3,3,3,3,3,3,3,3,4,4,4,4,3,3],[1,1,1,1,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[3,3,3,3,2,2,2,2,2,2,2,2,2,2,2,3,3,3,3,3,3,3,3,3],[3,3,3,3,2,2,2,2,2,2,2,2,2,2,2,3,3,3,3,3,3,3,3,3],[3,3,3,3,2,2,2,2,2,2,2,2,2,2,2,3,3,3,3,3,3,3,3,3]],\"output\":[[3,3,3,3,3,3,3,3,8,8,3,3,3,3,3,3,8,8,3,3,3,3,3,3],[3,3,3,3,3,3,3,3,8,8,3,3,3,3,3,3,8,8,3,3,3,3,3,3],[3,3,3,3,3,3,3,3,8,8,3,3,3,3,3,3,8,8,3,3,3,3,3,3],[1,1,1,1,3,3,3,3,8,8,3,3,3,3,3,3,8,8,3,3,3,3,3,3],[1,1,1,1,3,3,3,3,8,8,3,3,3,3,3,3,8,8,4,4,4,4,3,3],[1,1,1,1,3,3,3,3,8,8,3,3,3,3,3,3,8,8,4,4,4,4,3,3],[1,1,1,1,3,3,3,3,8,8,3,3,3,3,3,3,8,8,4,4,4,4,3,3],[1,1,1,1,8,8,8,8,8,8,8,8,8,8,8,8,8,8,4,4,4,4,3,3],[1,1,1,1,8,8,8,8,8,8,8,8,8,8,8,8,8,8,4,4,4,4,3,3],[1,1,1,1,8,8,3,3,8,8,3,3,3,3,3,3,3,3,4,4,4,4,3,3],[1,1,1,1,8,8,3,3,8,8,3,3,3,3,3,3,3,3,4,4,4,4,3,3],[1,1,1,1,8,8,3,3,8,8,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[3,3,3,3,8,8,3,3,8,8,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[3,3,3,3,8,8,3,3,8,8,3,3,3,3,3,3,3,3,3,3,3,3,3,3],[3,3,3,3,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8],[3,3,3,3,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8],[3,3,3,3,2,2,2,2,2,2,2,2,2,2,2,3,3,3,3,3,3,3,3,3],[3,3,3,3,2,2,2,2,2,2,2,2,2,2,2,3,3,3,3,3,3,3,3,3],[3,3,3,3,2,2,2,2,2,2,2,2,2,2,2,3,3,3,3,3,3,3,3,3]]},{\"input\":[[5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5],[5,0,0,0,2,5,5,4,0,0,0,5,5,0,0,0,6,5,5,3,0,0,0,5],[5,0,0,0,2,5,5,4,0,0,0,5,5,0,0,0,6,5,5,3,0,0,0,5],[5,0,0,0,2,5,5,4,0,0,0,5,5,0,0,0,6,5,5,3,0,0,0,5],[5,0,0,0,2,5,5,4,0,0,0,5,5,0,0,0,6,5,5,3,0,0,0,5],[5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5],[1,1,1,1,1,1,1,1,1,1,1,1,1,6,6,6,6,6,1,1,1,1,1,1],[1,1,1,1,1,1,1,1,1,1,1,1,1,6,6,6,6,6,1,1,1,1,1,1],[1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1],[2,2,2,2,1,1,1,1,1,1,1,1,1,1,1,1,3,3,3,3,1,1,1,1],[2,2,2,2,1,1,1,1,1,1,1,1,1,1,1,1,3,3,3,3,1,1,1,1],[2,2,2,2,1,1,1,1,1,1,1,1,1,1,1,1,3,3,3,3,1,1,1,1],[2,2,2,2,1,1,1,1,8,8,1,1,1,1,1,1,3,3,3,3,1,1,1,1],[2,2,2,2,1,1,1,1,8,8,1,1,1,1,1,1,3,3,3,3,1,1,1,1],[2,2,2,2,1,1,1,1,1,1,1,1,1,1,1,1,3,3,3,3,1,1,1,1],[2,2,2,2,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,4,4,4,4,4,4,4,4,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,4,4,4,4,4,4,4,4,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,4,4,4,4,4,4,4,4,1,1,1,1,1,1,1,1,1,1,1]],\"output\":[[1,1,1,1,8,8,1,1,8,8,1,1,1,6,6,6,6,6,1,1,1,1,1,1],[1,1,1,1,8,8,1,1,8,8,1,1,1,6,6,6,6,6,1,1,1,1,1,1],[1,1,1,1,8,8,1,1,8,8,1,1,1,1,8,8,8,8,8,8,8,8,8,8],[1,1,1,1,8,8,1,1,8,8,1,1,1,1,8,8,8,8,8,8,8,8,8,8],[1,1,1,1,8,8,1,1,8,8,1,1,1,1,8,8,1,1,1,1,1,1,1,1],[2,2,2,2,8,8,1,1,8,8,1,1,1,1,8,8,3,3,3,3,1,1,1,1],[2,2,2,2,8,8,1,1,8,8,1,1,1,1,8,8,3,3,3,3,1,1,1,1],[2,2,2,2,8,8,1,1,8,8,1,1,1,1,8,8,3,3,3,3,1,1,1,1],[2,2,2,2,8,8,8,8,8,8,8,8,8,8,8,8,3,3,3,3,1,1,1,1],[2,2,2,2,8,8,8,8,8,8,8,8,8,8,8,8,3,3,3,3,1,1,1,1],[2,2,2,2,1,1,1,1,8,8,1,1,1,1,1,1,3,3,3,3,1,1,1,1],[2,2,2,2,1,1,1,1,8,8,1,1,1,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,1,1,1,8,8,1,1,1,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,1,1,1,8,8,1,1,1,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,1,1,1,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8],[1,1,1,1,1,1,1,1,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8],[1,1,1,1,1,4,4,4,4,4,4,4,4,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,4,4,4,4,4,4,4,4,1,1,1,1,1,1,1,1,1,1,1],[1,1,1,1,1,4,4,4,4,4,4,4,4,1,1,1,1,1,1,1,1,1,1,1]]},{\"input\":[[5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5],[5,0,0,0,4,5,5,6,0,0,0,5,5,3,0,0,0,5,5,0,0,0,2,5],[5,0,0,0,4,5,5,6,0,0,0,5,5,3,0,0,0,5,5,0,0,0,2,5],[5,0,0,0,4,5,5,6,0,0,0,5,5,3,0,0,0,5,5,0,0,0,2,5],[5,0,0,0,4,5,5,6,0,0,0,5,5,3,0,0,0,5,5,0,0,0,2,5],[5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5],[7,7,7,7,7,7,7,7,3,3,3,3,3,3,3,3,3,3,7,7,7,7,7,7],[7,7,7,7,7,7,7,7,3,3,3,3,3,3,3,3,3,3,7,7,7,7,7,7],[7,7,7,7,7,7,7,7,3,3,3,3,3,3,3,3,3,3,7,7,7,7,7,7],[7,7,7,7,7,7,7,7,3,3,3,3,3,3,3,3,3,3,7,7,6,6,6,6],[7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,6,6,6,6],[7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,6,6,6,6],[7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,6,6,6,6],[2,2,2,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,6,6,6,6],[2,2,2,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,6,6,6,6],[2,2,2,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,6,6,6,6],[2,2,2,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,6,6,6,6],[2,2,2,7,7,7,7,7,7,7,7,7,8,8,7,7,7,7,7,7,6,6,6,6],[2,2,2,7,7,7,7,7,7,7,7,7,8,8,7,7,7,7,7,7,6,6,6,6],[2,2,2,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,6,6,6,6],[2,2,2,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7],[2,2,2,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7],[2,2,2,7,7,7,7,7,4,4,4,4,4,4,4,4,4,4,4,4,4,4,7,7],[2,2,2,7,7,7,7,7,4,4,4,4,4,4,4,4,4,4,4,4,4,4,7,7],[2,2,2,7,7,7,7,7,4,4,4,4,4,4,4,4,4,4,4,4,4,4,7,7]],\"output\":[[7,7,7,8,8,7,7,7,3,3,3,3,3,3,3,3,3,3,8,8,7,7,7,7],[7,7,7,8,8,7,7,7,3,3,3,3,3,3,3,3,3,3,8,8,7,7,7,7],[7,7,7,8,8,7,7,7,3,3,3,3,3,3,3,3,3,3,8,8,7,7,7,7],[7,7,7,8,8,7,7,7,3,3,3,3,3,3,3,3,3,3,8,8,6,6,6,6],[8,8,8,8,8,8,8,8,8,8,8,8,8,8,7,7,7,7,8,8,6,6,6,6],[8,8,8,8,8,8,8,8,8,8,8,8,8,8,7,7,7,7,8,8,6,6,6,6],[7,7,7,8,8,7,7,7,7,7,7,7,8,8,7,7,7,7,8,8,6,6,6,6],[2,2,2,8,8,7,7,7,7,7,7,7,8,8,7,7,7,7,8,8,6,6,6,6],[2,2,2,8,8,7,7,7,7,7,7,7,8,8,7,7,7,7,8,8,6,6,6,6],[2,2,2,8,8,7,7,7,7,7,7,7,8,8,7,7,7,7,8,8,6,6,6,6],[2,2,2,8,8,7,7,7,7,7,7,7,8,8,7,7,7,7,8,8,6,6,6,6],[2,2,2,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,6,6,6,6],[2,2,2,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,6,6,6,6],[2,2,2,8,8,7,7,7,7,7,7,7,8,8,7,7,7,7,7,7,6,6,6,6],[2,2,2,8,8,8,8,8,8,8,8,8,8,8,7,7,7,7,7,7,7,7,7,7],[2,2,2,8,8,8,8,8,8,8,8,8,8,8,7,7,7,7,7,7,7,7,7,7],[2,2,2,7,7,7,7,7,4,4,4,4,4,4,4,4,4,4,4,4,4,4,7,7],[2,2,2,7,7,7,7,7,4,4,4,4,4,4,4,4,4,4,4,4,4,4,7,7],[2,2,2,7,7,7,7,7,4,4,4,4,4,4,4,4,4,4,4,4,4,4,7,7]]}]}","display_format":"grid","language":"","answer_status":"published","assets":[],"source_url":"https://github.com/arcprize/ARC-AGI-2","history":"initial import","indexing_mode":"noindex","subproblems":[],"grids":[]}