Add files using upload-large-folder tool

mmlu_humanities/few_shot_1/EleutherAI_gpt-neo-1.3B/last_token_relative_depth_100/accuracy.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 1139, "1": 1153, "2": 1276, "3": 1137}, "correct_per_class": {"0": 445, "1": 68, "2": 356, "3": 318}, "net_accuracy": 0.25228480340063764}

mmlu_humanities/few_shot_1/EleutherAI_gpt-neo-1.3B/last_token_relative_depth_100/intrinsic/results.csv

@@ -0,0 +1,25 @@
+Layer,MLE,MLE_Corrected,TwoNN,Gride
+blocks.0.hook_mlp_out,13.035808563232422,11.24715805053711,14.8413667678833,11.04015827178955
+blocks.1.hook_mlp_out,12.237004280090332,11.011149406433105,14.204890251159668,10.510146141052246
+blocks.2.hook_mlp_out,14.906688690185547,13.338470458984375,16.237926483154297,13.300209999084473
+blocks.3.hook_mlp_out,13.94029426574707,12.329346656799316,15.521717071533203,12.060181617736816
+blocks.4.hook_mlp_out,16.901752471923828,14.887842178344727,17.117687225341797,15.210253715515137
+blocks.5.hook_mlp_out,15.434615135192871,13.62716007232666,16.639705657958984,13.660218238830566
+blocks.6.hook_mlp_out,17.29051399230957,14.990738868713379,17.67704963684082,14.950247764587402
+blocks.7.hook_mlp_out,13.745436668395996,11.875128746032715,15.48581314086914,11.690173149108887
+blocks.8.hook_mlp_out,15.412856101989746,13.204479217529297,16.041893005371094,12.57019329071045
+blocks.9.hook_mlp_out,15.469110488891602,13.187482833862305,15.803146362304688,13.180207252502441
+blocks.10.hook_mlp_out,15.362472534179688,12.756864547729492,16.058393478393555,10.840153694152832
+blocks.11.hook_mlp_out,15.306367874145508,12.577546119689941,15.390257835388184,10.960156440734863
+blocks.12.hook_mlp_out,15.216592788696289,12.385204315185547,15.535843849182129,10.420144081115723
+blocks.13.hook_mlp_out,15.816807746887207,12.707727432250977,15.93973159790039,10.840153694152832
+blocks.14.hook_mlp_out,16.217876434326172,13.034066200256348,15.624979972839355,10.850153923034668
+blocks.15.hook_mlp_out,16.852210998535156,13.425826072692871,16.65987777709961,10.890154838562012
+blocks.16.hook_mlp_out,16.424327850341797,13.233318328857422,16.71373176574707,10.590147972106934
+blocks.17.hook_mlp_out,16.99987030029297,13.748887062072754,16.845674514770508,11.070158958435059
+blocks.18.hook_mlp_out,17.411762237548828,13.887589454650879,16.8045597076416,11.380166053771973
+blocks.19.hook_mlp_out,17.133333206176758,13.578843116760254,16.425329208374023,11.070158958435059
+blocks.20.hook_mlp_out,17.572261810302734,13.891382217407227,16.546144485473633,11.09015941619873
+blocks.21.hook_mlp_out,16.680130004882812,13.317914962768555,16.121784210205078,10.900155067443848
+blocks.22.hook_mlp_out,15.486180305480957,12.498723030090332,14.782988548278809,10.410143852233887
+blocks.23.hook_mlp_out,15.08281421661377,12.418290138244629,15.112136840820312,10.55014705657959

mmlu_humanities/few_shot_1/EleutherAI_gpt-neo-1.3B/last_token_relative_depth_100/llm_hook_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "model_id": "EleutherAI/gpt-neo-1.3B", "batch_size": 32, "dataset_name": "mmlu_humanities", "max_token_length": 1024, "last_token": true, "question_structure": true, "relative_depth_of_sentence": 1.0, "store_activations": true, "random_seed": 42, "few_shot": 1, "pythia": false, "revision_step": 0, "save_dir": "experiment_results"}

mmlu_humanities/few_shot_1/EleutherAI_gpt-neo-1.3B/last_token_relative_depth_100/llm_intrinsic_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "gride_k1": 20, "gride_k2": 40, "mle_k1": 12, "mle_k2": 24, "mle": true, "model_id": "EleutherAI/gpt-neo-1.3B", "dataset_name": "mmlu_humanities", "distance_metric": "euclidean", "batch_size": 32, "last_token": true, "relative_depth_of_sentence": 1.0, "few_shot": 1, "pythia": false, "revision_step": 0, "save_dir": "experiment_results"}

mmlu_humanities/few_shot_1/EleutherAI_gpt-neo-1.3B/last_token_relative_depth_100/predictions.csv

@@ -0,0 +1,4706 @@
+Labels,Predictions
+2,0
+3,0
+0,0
+1,2
+2,0
+2,3
+0,3
+1,3
+2,2
+1,3
+2,0
+3,0
+2,0
+3,3
+1,0
+2,3
+2,0
+3,3
+3,3
+3,0
+0,0
+2,2
+1,2
+0,3
+0,2
+1,0
+2,3
+3,0
+0,3
+1,0
+0,3
+2,2
+2,1
+1,0
+3,3
+1,1
+3,0
+3,3
+2,2
+3,2
+1,0
+0,1
+2,1
+0,2
+0,3
+0,3
+1,3
+2,3
+3,3
+3,0
+3,3
+3,0
+3,2
+1,2
+1,3
+2,0
+1,0
+0,0
+2,0
+1,0
+0,0
+3,3
+1,0
+2,3
+2,2
+2,3
+1,0
+0,0
+0,2
+3,1
+2,2
+2,0
+2,0
+2,0
+2,3
+3,1
+1,3
+3,3
+2,0
+2,0
+2,2
+2,3
+3,3
+0,0
+0,0
+0,0
+1,0
+3,0
+2,1
+3,3
+0,0
+1,2
+3,0
+3,3
+3,1
+0,0
+1,0
+2,2
+1,1
+3,0
+2,2
+3,3
+3,0
+1,3
+2,3
+0,0
+0,3
+2,0
+0,2
+3,3
+2,2
+3,1
+3,0
+3,3
+3,3
+3,0
+2,2
+2,2
+1,0
+1,0
+0,3
+2,0
+0,2
+3,2
+3,2
+3,2
+1,0
+3,3
+1,3
+0,0
+3,0
+0,3
+1,3
+1,3
+3,2
+3,0
+1,0
+1,2
+3,0
+1,2
+1,0
+0,2
+2,0
+1,3
+1,0
+0,1
+3,3
+3,2
+1,0
+3,3
+1,0
+0,0
+2,2
+3,0
+2,2
+2,3
+1,3
+3,3
+0,0
+0,0
+2,3
+0,3
+0,1
+3,3
+3,0
+3,2
+3,0
+2,3
+3,2
+2,0
+2,0
+1,3
+2,2
+0,3
+2,3
+2,0
+1,3
+0,3
+0,2
+2,2
+3,3
+2,0
+3,3
+1,0
+0,0
+1,2
+2,0
+3,0
+0,0
+2,0
+3,2
+3,1
+0,3
+2,3
+0,3
+2,3
+2,0
+3,2
+2,3
+0,0
+3,3
+2,0
+3,3
+3,3
+0,0
+2,1
+1,2
+3,3
+0,2
+0,0
+2,0
+2,2
+3,0
+0,2
+0,3
+1,1
+0,2
+2,1
+2,2
+1,0
+3,2
+0,2
+1,3
+2,3
+0,1
+3,0
+0,3
+2,0
+1,3
+0,1
+2,3
+1,2
+0,0
+0,0
+0,0
+1,2
+1,0
+2,0
+2,3
+0,0
+0,0
+1,0
+2,3
+2,0
+3,0
+2,3
+2,0
+0,1
+3,0
+3,3
+1,0
+2,2
+2,3
+3,0
+1,0
+1,0
+3,1
+3,3
+0,0
+1,0
+3,0
+1,0
+2,0
+0,2
+3,1
+2,1
+0,3
+3,0
+2,0
+0,0
+1,3
+0,0
+3,0
+3,0
+0,0
+2,2
+0,3
+0,0
+2,2
+3,2
+1,0
+2,0
+1,2
+0,0
+0,0
+1,0
+3,3
+1,0
+0,2
+1,3
+1,0
+0,3
+2,0
+1,3
+1,3
+2,0
+0,0
+3,2
+1,2
+1,3
+2,0
+3,0
+2,2
+2,1
+3,3
+3,0
+1,0
+0,0
+3,2
+2,0
+2,0
+2,0
+2,0
+1,0
+0,3
+2,1
+1,1
+0,0
+3,3
+2,0
+1,3
+3,0
+3,0
+0,0
+1,0
+1,2
+0,2
+0,2
+1,3
+0,3
+0,2
+3,3
+1,2
+0,3
+2,3
+3,3
+0,0
+1,0
+3,0
+3,2
+2,0
+3,0
+2,0
+1,3
+1,3
+0,0
+3,3
+2,1
+2,2
+0,2
+3,3
+3,3
+1,0
+0,3
+3,3
+3,3
+3,1
+0,0
+0,2
+0,0
+1,0
+2,0
+1,1
+2,2
+2,0
+3,0
+3,0
+3,1
+1,0
+1,2
+2,0
+3,2
+3,3
+1,0
+0,2
+3,0
+2,0
+3,2
+0,2
+0,1
+1,1
+0,2
+2,0
+3,0
+1,0
+2,2
+0,2
+1,2
+1,0
+2,0
+0,3
+0,1
+1,1
+3,0
+1,0
+2,0
+0,0
+2,3
+2,2
+0,0
+2,2
+1,2
+0,1
+3,3
+2,0
+0,0
+1,3
+2,3
+3,3
+3,0
+2,2
+3,0
+2,3
+1,0
+1,0
+3,1
+2,3
+1,2
+1,0
+3,0
+3,2
+2,0
+2,0
+1,3
+0,0
+3,1
+0,3
+2,2
+0,0
+3,3
+1,3
+3,2
+2,0
+2,3
+0,0
+1,0
+2,3
+2,2
+1,2
+2,2
+3,3
+0,2
+2,2
+0,2
+0,2
+0,3
+1,2
+0,3
+3,0
+3,0
+1,3
+0,2
+2,2
+1,0
+1,0
+3,2
+2,0
+3,2
+1,0
+1,1
+2,3
+2,1
+2,1
+0,0
+2,3
+2,3
+3,0
+3,0
+1,0
+2,2
+2,1
+0,0
+3,0
+1,0
+1,3
+1,2
+1,0
+0,0
+3,0
+2,0
+0,2
+2,0
+1,2
+2,0
+1,0
+0,1
+2,0
+2,0
+0,0
+1,1
+3,3
+2,2
+2,0
+3,0
+3,0
+1,2
+3,3
+1,0
+3,2
+3,2
+2,3
+2,2
+1,2
+2,0
+1,3
+0,1
+0,3
+3,2
+2,2
+3,2
+2,3
+3,0
+3,2
+1,1
+0,3
+1,0
+2,2
+3,2
+3,2
+2,3
+2,3
+1,0
+1,2
+1,0
+0,2
+2,2
+1,0
+2,0
+0,3
+2,0
+3,3
+2,2
+2,2
+2,0
+1,0
+2,0
+0,0
+2,2
+2,2
+0,0
+3,1
+3,2
+1,2
+0,0
+2,3
+2,2
+3,2
+0,2
+3,2
+2,2
+1,2
+1,3
+1,3
+0,0
+1,3
+0,2
+2,3
+1,2
+1,2
+2,0
+1,1
+1,0
+3,1
+1,3
+1,2
+3,0
+3,0
+1,0
+1,2
+0,2
+1,0
+0,2
+3,0
+0,1
+1,2
+1,2
+1,2
+3,2
+3,3
+2,2
+1,0
+2,0
+2,3
+1,0
+3,2
+3,0
+1,0
+1,2
+0,0
+3,0
+0,3
+3,2
+1,0
+2,2
+0,3
+0,0
+1,0
+3,3
+0,0
+3,0
+0,0
+0,2
+2,0
+1,3
+0,3
+1,0
+2,3
+3,0
+1,0
+0,3
+2,0
+1,3
+2,3
+2,0
+1,0
+3,2
+3,3
+1,0
+0,2
+0,3
+1,2
+0,0
+3,3
+1,3
+2,2
+0,3
+1,2
+3,0
+1,0
+2,2
+3,1
+1,0
+1,2
+1,2
+2,0
+1,1
+0,2
+3,0
+2,0
+3,0
+2,1
+1,0
+1,2
+2,3
+2,2
+2,3
+3,3
+2,0
+0,1
+0,0
+1,2
+2,0
+1,2
+0,0
+1,0
+2,0
+2,0
+1,2
+3,2
+3,1
+1,3
+2,3
+0,2
+2,0
+2,2
+3,2
+2,2
+1,0
+3,3
+2,0
+0,3
+3,3
+1,2
+3,3
+1,3
+0,3
+3,3
+0,2
+1,0
+0,3
+3,3
+0,3
+0,0
+3,2
+2,0
+0,3
+2,3
+1,0
+0,2
+3,0
+0,3
+3,2
+2,0
+1,2
+1,2
+2,0
+1,0
+1,3
+3,0
+1,0
+0,0
+1,3
+1,2
+1,2
+1,2
+3,0
+2,2
+3,3
+3,0
+0,2
+1,3
+2,2
+0,0
+1,0
+2,3
+1,2
+1,1
+1,2
+3,3
+1,0
+3,3
+0,0
+3,3
+3,3
+2,0
+3,2
+2,0
+2,2
+0,0
+0,2
+1,3
+0,2
+2,0
+1,0
+2,3
+1,1
+3,3
+1,1
+2,3
+3,0
+0,2
+3,0
+0,0
+3,3
+2,0
+1,2
+2,2
+2,3
+1,3
+2,3
+0,0
+3,0
+0,1
+2,0
+2,0
+1,2
+0,0
+2,3
+0,0
+1,2
+3,2
+0,2
+2,0
+0,2
+2,0
+1,3
+2,0
+3,0
+3,0
+1,3
+1,3
+0,1
+2,3
+1,3
+0,2
+3,2
+2,3
+0,0
+1,3
+0,3
+0,2
+2,2
+0,0
+3,1
+2,2
+3,0
+0,1
+1,3
+3,0
+1,3
+2,2
+0,0
+1,0
+3,0
+1,0
+1,3
+1,2
+2,0
+1,2
+3,3
+1,3
+0,2
+0,1
+3,0
+2,3
+0,2
+3,0
+2,3
+1,0
+0,2
+0,2
+0,0
+3,2
+2,3
+1,0
+2,2
+0,2
+1,0
+3,2
+3,2
+0,2
+0,0
+1,2
+1,0
+0,0
+1,3
+3,0
+3,0
+3,2
+3,0
+1,0
+2,3
+1,3
+1,0
+3,0
+0,2
+0,2
+0,0
+2,3
+2,3
+3,3
+3,0
+0,0
+2,2
+3,3
+1,2
+1,0
+2,3
+2,0
+0,0
+1,2
+3,0
+1,0
+1,2
+0,1
+3,0
+2,2
+3,0
+1,3
+1,0
+3,1
+2,0
+2,1
+3,2
+3,0
+0,2
+1,0
+2,0
+2,0
+1,0
+2,2
+0,2
+3,0
+1,3
+3,3
+3,3
+3,2
+0,2
+2,0
+1,1
+2,2
+1,0
+0,2
+1,3
+0,0
+0,1
+1,0
+0,3
+0,3
+1,0
+3,3
+1,2
+2,3
+2,0
+3,0
+1,0
+2,1
+3,1
+1,0
+3,3
+1,0
+3,3
+3,2
+2,2
+2,3
+1,0
+1,3
+2,3
+1,2
+3,1
+3,0
+0,3
+1,2
+1,0
+3,0
+1,0
+0,2
+3,0
+0,2
+1,0
+3,1
+1,1
+2,0
+3,3
+3,3
+0,2
+3,2
+2,0
+0,1
+1,0
+2,1
+2,0
+2,3
+3,3
+0,1
+0,2
+3,2
+0,3
+3,2
+2,3
+2,0
+0,0
+3,0
+2,3
+1,3
+0,3
+0,2
+3,2
+2,0
+0,3
+2,2
+0,2
+0,0
+3,2
+1,2
+3,2
+0,1
+1,2
+2,3
+0,0
+3,3
+0,3
+3,0
+0,3
+2,0
+2,3
+0,2
+0,3
+3,2
+1,1
+2,2
+1,0
+3,2
+2,0
+2,0
+0,1
+2,3
+3,2
+1,3
+3,3
+1,3
+3,3
+2,0
+1,0
+3,3
+3,3
+1,0
+1,3
+2,2
+2,3
+3,3
+2,2
+3,0
+2,2
+3,2
+1,0
+3,3
+3,0
+1,3
+0,2
+1,2
+1,2
+1,0
+0,0
+1,0
+3,0
+2,0
+3,3
+3,1
+0,0
+2,2
+1,3
+1,1
+0,3
+0,3
+0,2
+1,0
+0,2
+1,3
+2,2
+2,0
+2,0
+0,2
+0,0
+3,1
+0,2
+3,2
+3,2
+3,1
+1,2
+3,0
+3,2
+0,0
+1,0
+1,3
+3,0
+3,2
+0,2
+2,2
+1,2
+2,2
+1,0
+1,0
+3,0
+0,3
+1,3
+0,3
+0,0
+2,0
+2,0
+0,0
+2,0
+3,3
+2,3
+0,2
+3,0
+1,2
+2,3
+0,3
+2,3
+0,0
+0,2
+3,2
+3,3
+3,2
+0,3
+2,3
+1,2
+3,2
+1,0
+0,0
+3,0
+2,2
+3,2
+0,3
+0,0
+2,0
+3,0
+2,3
+1,3
+0,0
+3,3
+2,2
+2,0
+0,2
+3,0
+1,2
+2,1
+1,0
+2,0
+3,1
+2,1
+1,3
+2,2
+2,3
+2,0
+2,0
+0,0
+0,0
+2,0
+1,0
+1,0
+2,0
+3,3
+3,2
+1,3
+1,3
+0,2
+1,0
+2,2
+3,0
+2,0
+1,2
+2,2
+2,0
+2,2
+1,0
+0,0
+1,3
+3,0
+3,0
+2,2
+3,3
+3,0
+1,2
+1,0
+1,0
+3,0
+2,0
+3,0
+1,2
+1,0
+3,3
+2,2
+1,2
+2,1
+2,1
+0,3
+0,0
+3,0
+3,0
+3,1
+0,3
+3,0
+1,3
+0,2
+3,1
+3,0
+2,1
+2,1
+3,0
+0,3
+1,1
+1,0
+2,0
+2,0
+0,3
+1,3
+2,3
+0,2
+3,2
+3,3
+0,3
+0,3
+3,3
+0,2
+3,2
+1,2
+2,0
+1,2
+2,0
+1,3
+0,3
+3,0
+2,2
+0,3
+3,2
+1,2
+1,0
+2,2
+1,3
+0,1
+3,2
+1,3
+2,0
+2,3
+1,2
+1,1
+3,0
+3,2
+2,3
+3,3
+0,0
+2,0
+0,3
+1,3
+2,3
+1,0
+0,3
+3,2
+1,0
+0,3
+0,0
+0,2
+3,0
+2,3
+2,3
+1,3
+0,3
+2,2
+1,2
+0,3
+3,2
+2,3
+1,0
+0,3
+3,3
+2,3
+2,2
+0,3
+3,0
+2,2
+0,2
+1,2
+3,3
+0,0
+2,0
+2,0
+0,1
+2,2
+1,2
+2,0
+1,0
+0,3
+0,2
+0,3
+2,2
+3,3
+2,1
+1,3
+0,2
+1,0
+3,2
+3,3
+0,0
+2,3
+3,3
+3,2
+3,1
+3,2
+0,3
+0,0
+0,0
+2,0
+0,2
+2,3
+0,2
+2,2
+3,0
+3,3
+3,0
+1,0
+2,0
+0,0
+0,3
+2,0
+2,0
+1,2
+2,0
+1,3
+0,2
+3,3
+1,3
+1,0
+0,2
+0,2
+1,3
+3,3
+1,2
+0,2
+0,3
+1,3
+3,0
+0,3
+2,2
+1,1
+2,3
+2,0
+2,0
+1,3
+3,0
+0,2
+1,2
+1,2
+2,0
+1,2
+2,2
+1,2
+1,2
+3,0
+2,0
+3,3
+2,0
+1,1
+3,0
+2,2
+1,2
+3,3
+0,0
+1,2
+2,0
+1,0
+2,2
+2,3
+2,0
+3,3
+2,0
+2,2
+1,2
+2,3
+3,3
+1,0
+0,2
+3,3
+0,0
+2,2
+2,2
+2,0
+3,2
+0,3
+1,0
+0,0
+1,2
+2,0
+3,2
+3,2
+0,0
+3,3
+2,3
+2,0
+0,3
+3,0
+1,0
+1,3
+0,2
+1,3
+3,3
+0,3
+1,0
+3,2
+1,0
+1,3
+2,0
+3,0
+0,0
+1,0
+1,0
+2,0
+0,2
+2,2
+2,0
+1,3
+0,3
+2,0
+0,2
+1,2
+0,3
+1,3
+0,2
+0,1
+3,3
+2,0
+0,2
+3,3
+0,3
+1,3
+2,2
+2,2
+0,2
+1,3
+1,3
+0,1
+0,3
+1,0
+0,3
+2,1
+2,3
+1,0
+3,3
+2,0
+3,1
+2,0
+1,2
+3,2
+0,2
+1,2
+3,3
+3,0
+3,2
+1,3
+1,3
+0,3
+1,0
+2,3
+0,3
+2,0
+3,3
+2,3
+0,0
+2,0
+2,0
+1,2
+2,2
+0,0
+1,2
+2,3
+3,3
+1,3
+2,2
+3,2
+3,3
+2,0
+2,3
+1,0
+0,1
+0,0
+1,0
+0,0
+0,2
+1,0
+3,1
+3,3
+1,2
+1,0
+2,2
+1,1
+1,1
+2,0
+1,0
+2,3
+1,3
+1,2
+2,0
+1,2
+2,0
+2,3
+0,0
+3,0
+1,2
+0,0
+2,3
+3,0
+3,0
+2,1
+1,0
+0,3
+3,0
+3,1
+3,0
+3,0
+2,3
+3,1
+0,3
+2,3
+3,3
+0,0
+1,0
+2,1
+1,0
+3,2
+2,3
+3,3
+2,3
+3,0
+1,0
+1,2
+2,2
+2,0
+2,2
+0,2
+1,2
+1,1
+2,2
+3,2
+1,1
+3,0
+3,0
+3,0
+2,2
+1,3
+1,3
+1,0
+2,0
+0,0
+2,0
+3,2
+1,2
+0,0
+1,2
+1,0
+0,0
+0,0
+2,2
+3,0
+0,3
+3,3
+0,2
+2,0
+3,0
+1,2
+1,2
+0,2
+2,2
+2,2
+1,2
+0,2
+3,2
+0,0
+1,2
+3,2
+2,0
+2,0
+0,2
+1,2
+2,0
+3,3
+1,3
+2,1
+3,3
+2,0
+1,3
+0,3
+1,0
+2,0
+3,2
+0,3
+3,0
+2,0
+2,2
+2,3
+3,3
+3,2
+1,3
+3,0
+0,0
+2,2
+1,2
+1,3
+0,3
+0,2
+2,0
+2,1
+2,2
+1,3
+0,0
+0,0
+3,3
+3,3
+0,0
+2,0
+0,2
+2,0
+0,0
+1,0
+2,0
+0,0
+3,3
+0,3
+1,3
+2,0
+0,3
+1,0
+3,2
+0,0
+1,1
+0,0
+0,0
+2,3
+2,0
+2,0
+3,1
+0,0
+2,0
+2,3
+3,0
+3,2
+1,3
+0,0
+0,0
+1,3
+1,1
+1,3
+2,2
+1,0
+0,2
+2,0
+0,0
+3,2
+0,2
+3,3
+3,1
+3,0
+0,0
+2,0
+3,3
+2,0
+3,2
+2,2
+3,1
+2,2
+3,2
+1,2
+2,0
+2,2
+2,0
+1,3
+2,0
+1,3
+0,0
+0,0
+2,0
+2,0
+2,0
+0,3
+0,0
+2,0
+1,2
+3,0
+2,0
+0,3
+2,0
+1,0
+2,2
+2,0
+0,0
+1,3
+3,3
+3,0
+2,3
+2,2
+0,0
+3,2
+2,0
+3,1
+3,0
+0,0
+3,1
+0,1
+1,0
+1,0
+0,0
+2,0
+0,3
+3,2
+1,2
+2,2
+0,0
+3,0
+2,3
+1,0
+3,0
+2,2
+1,2
+0,3
+1,0
+2,3
+1,0
+1,2
+3,2
+0,2
+1,3
+2,3
+0,0
+1,2
+2,3
+0,0
+2,3
+3,2
+3,3
+2,2
+0,3
+1,0
+1,2
+3,3
+2,1
+3,3
+3,3
+0,0
+1,0
+3,3
+1,0
+2,2
+2,2
+3,1
+2,1
+0,3
+1,2
+2,3
+2,3
+1,0
+2,0
+2,2
+1,0
+2,3
+1,3
+1,1
+1,0
+0,3
+0,2
+0,3
+0,3
+2,0
+0,0
+0,2
+2,1
+3,3
+3,2
+2,3
+1,3
+2,3
+2,0
+0,1
+2,2
+0,2
+0,2
+3,0
+1,3
+2,3
+3,2
+0,0
+0,2
+2,2
+0,2
+1,1
+1,2
+2,0
+1,0
+3,3
+3,2
+1,0
+0,3
+2,3
+0,0
+0,2
+3,1
+2,1
+3,2
+3,3
+2,3
+2,3
+1,3
+1,0
+0,0
+0,3
+2,1
+0,1
+2,0
+3,0
+3,2
+1,0
+0,2
+1,2
+2,1
+0,2
+2,0
+0,2
+3,3
+3,2
+3,0
+1,0
+0,0
+0,0
+0,0
+2,3
+0,2
+0,3
+2,0
+0,0
+2,2
+3,0
+2,2
+2,2
+1,1
+1,3
+1,0
+0,0
+2,1
+2,1
+2,3
+3,0
+1,0
+2,3
+1,2
+1,0
+2,3
+1,0
+2,0
+0,2
+1,2
+0,0
+2,0
+0,0
+3,0
+3,2
+1,3
+3,2
+3,0
+0,2
+3,0
+3,0
+3,3
+1,1
+2,0
+1,0
+0,2
+0,1
+0,2
+2,0
+2,3
+3,1
+0,0
+1,3
+0,3
+3,2
+0,3
+2,0
+3,3
+2,0
+3,2
+1,0
+2,3
+3,3
+2,2
+0,0
+2,3
+0,2
+0,2
+0,3
+1,2
+0,1
+0,0
+3,2
+0,2
+2,2
+0,2
+1,3
+2,2
+0,0
+3,0
+3,2
+2,1
+0,2
+0,0
+2,0
+3,3
+2,0
+2,1
+2,2
+0,0
+1,2
+0,3
+1,3
+1,0
+0,0
+0,3
+1,3
+3,1
+3,0
+3,2
+2,0
+2,3
+2,2
+1,3
+1,2
+0,0
+3,0
+1,0
+0,3
+0,1
+2,3
+1,3
+3,0
+2,0
+1,0
+0,0
+2,0
+2,2
+1,3
+0,0
+1,0
+0,0
+2,0
+0,2
+2,2
+2,0
+3,3
+1,3
+1,0
+3,1
+3,3
+1,2
+0,0
+3,1
+0,2
+1,2
+3,0
+0,1
+3,2
+0,3
+2,0
+1,0
+2,0
+0,1
+1,0
+2,0
+1,0
+1,2
+0,3
+0,3
+0,2
+2,3
+0,3
+1,3
+1,0
+0,3
+2,2
+2,3
+2,3
+3,2
+3,0
+3,2
+0,2
+2,0
+1,0
+2,1
+1,0
+2,3
+1,2
+2,3
+3,3
+3,1
+0,1
+3,2
+0,3
+3,3
+0,2
+3,2
+0,2
+2,0
+1,0
+3,1
+1,3
+2,0
+2,2
+3,0
+3,0
+1,0
+3,2
+0,2
+1,2
+3,0
+0,2
+0,2
+1,0
+3,1
+0,0
+1,2
+1,2
+3,0
+0,2
+0,0
+3,2
+0,0
+3,3
+1,0
+3,0
+2,2
+1,2
+1,2
+3,2
+0,2
+3,0
+1,2
+0,0
+0,2
+1,3
+0,3
+3,0
+3,3
+3,3
+1,3
+1,2
+0,3
+2,2
+2,3
+0,2
+1,3
+0,0
+2,3
+1,0
+2,3
+1,0
+1,2
+3,2
+2,1
+2,0
+1,3
+3,2
+1,3
+1,3
+1,0
+2,2
+1,3
+1,3
+2,0
+1,3
+2,2
+0,1
+0,0
+2,2
+3,0
+0,2
+3,2
+3,2
+1,2
+0,3
+2,3
+0,0
+2,0
+2,1
+3,0
+3,0
+3,3
+3,0
+1,2
+2,1
+1,3
+1,0
+0,3
+0,3
+1,0
+2,0
+0,0
+1,2
+2,2
+2,0
+0,1
+2,3
+1,0
+0,3
+0,2
+3,2
+0,3
+3,3
+1,0
+3,0
+1,0
+3,0
+0,2
+2,0
+3,0
+3,0
+3,3
+1,3
+1,2
+3,2
+0,3
+1,2
+2,1
+3,2
+2,0
+2,0
+3,2
+2,1
+2,3
+0,0
+3,3
+3,2
+0,2
+3,0
+3,3
+3,3
+3,0
+2,0
+2,1
+3,3
+0,0
+1,0
+1,3
+2,2
+2,0
+1,0
+2,2
+1,3
+0,3
+0,2
+2,3
+0,3
+0,0
+3,2
+1,2
+2,0
+2,2
+1,0
+0,0
+0,3
+1,2
+1,2
+0,0
+2,2
+3,0
+2,2
+0,0
+3,0
+1,0
+3,1
+2,0
+2,2
+2,0
+0,3
+2,0
+0,2
+3,2
+1,1
+0,0
+3,2
+3,0
+2,2
+1,2
+2,0
+3,1
+3,2
+0,0
+3,3
+2,2
+2,3
+3,0
+2,2
+3,2
+1,0
+2,0
+2,0
+2,0
+0,3
+3,2
+1,3
+0,0
+1,0
+0,3
+3,2
+2,0
+1,0
+2,3
+3,3
+2,1
+3,2
+0,0
+1,3
+3,0
+1,2
+0,3
+0,3
+0,0
+2,3
+2,3
+3,3
+2,1
+3,2
+0,3
+0,3
+3,2
+2,0
+2,0
+0,0
+3,2
+0,3
+1,0
+1,3
+3,1
+1,3
+0,3
+2,0
+3,3
+3,0
+3,2
+0,3
+1,0
+0,1
+3,1
+3,2
+2,0
+1,2
+1,0
+2,1
+0,3
+2,0
+1,2
+0,0
+0,0
+2,0
+0,0
+3,1
+3,2
+1,0
+3,0
+2,0
+1,2
+0,3
+0,0
+3,3
+3,0
+3,0
+3,0
+2,2
+1,2
+2,0
+2,3
+2,2
+2,3
+2,2
+0,2
+1,0
+2,0
+0,0
+1,0
+3,0
+0,0
+0,3
+2,0
+0,0
+1,2
+3,2
+1,1
+2,1
+0,0
+3,0
+3,2
+0,3
+3,0
+3,0
+2,2
+1,2
+3,3
+1,3
+1,2
+2,0
+1,2
+1,0
+1,3
+0,0
+1,2
+0,0
+0,0
+0,3
+2,2
+1,0
+0,3
+3,0
+0,0
+1,0
+0,0
+0,1
+2,0
+1,3
+2,2
+2,2
+2,0
+0,2
+0,3
+0,3
+0,3
+1,1
+3,0
+3,2
+1,0
+1,0
+1,3
+1,0
+0,3
+2,3
+2,3
+2,3
+1,2
+2,2
+1,3
+2,3
+1,2
+1,3
+1,1
+1,0
+2,0
+1,2
+2,0
+3,3
+3,0
+0,0
+0,0
+2,0
+0,3
+2,2
+1,3
+0,0
+1,2
+0,0
+0,2
+3,3
+3,3
+3,3
+0,3
+3,0
+1,2
+0,3
+1,3
+2,2
+0,0
+0,3
+1,0
+2,2
+3,2
+1,3
+3,0
+0,0
+3,3
+0,3
+3,3
+1,0
+3,2
+2,2
+1,3
+0,3
+2,1
+2,0
+3,0
+2,1
+3,0
+3,2
+3,3
+1,1
+3,3
+3,0
+1,0
+3,2
+0,2
+1,3
+2,3
+3,3
+1,3
+0,0
+3,0
+2,3
+1,0
+1,2
+0,2
+1,2
+2,0
+2,2
+0,0
+1,0
+2,2
+2,3
+3,3
+1,2
+3,0
+1,2
+1,0
+3,2
+1,0
+2,2
+1,0
+3,3
+3,0
+2,0
+0,3
+0,3
+2,3
+0,0
+0,0
+0,0
+0,2
+1,2
+2,2
+1,0
+0,0
+2,3
+1,2
+1,0
+0,3
+2,1
+1,3
+1,0
+2,2
+2,0
+0,3
+2,0
+3,3
+0,3
+0,3
+2,2
+2,2
+2,2
+3,0
+2,0
+2,3
+0,0
+3,2
+2,0
+2,0
+2,1
+3,3
+0,0
+0,0
+2,3
+3,1
+3,3
+2,2
+1,3
+1,0
+1,0
+2,0
+0,1
+1,2
+1,2
+3,3
+1,2
+0,2
+0,0
+2,3
+2,3
+2,2
+1,2
+3,1
+0,0
+0,0
+0,0
+0,2
+2,0
+2,0
+1,0
+2,0
+2,3
+2,1
+1,0
+0,0
+0,0
+2,0
+3,0
+2,2
+3,0
+3,0
+0,0
+2,0
+1,0
+2,3
+3,2
+0,3
+1,2
+2,2
+3,2
+3,2
+0,2
+1,0
+3,0
+3,2
+1,0
+0,0
+1,3
+2,3
+3,3
+2,3
+2,3
+3,1
+0,3
+0,3
+1,0
+3,3
+3,3
+1,0
+1,2
+3,0
+1,2
+2,0
+0,0
+3,0
+1,0
+0,0
+0,3
+0,2
+2,2
+1,0
+0,1
+0,0
+1,2
+2,3
+3,3
+2,0
+1,0
+1,2
+0,3
+1,2
+2,3
+2,0
+1,2
+3,0
+0,2
+0,2
+2,2
+2,0
+1,0
+0,3
+2,3
+0,0
+0,0
+0,0
+3,0
+0,2
+2,0
+2,0
+2,3
+1,0
+2,0
+3,3
+1,0
+1,3
+0,0
+1,0
+3,0
+3,0
+1,3
+0,2
+1,3
+1,0
+2,0
+0,0
+0,0
+0,0
+0,0
+2,3
+2,2
+2,2
+2,1
+3,3
+2,3
+1,3
+1,3
+0,0
+1,0
+0,3
+1,0
+2,1
+0,3
+2,3
+0,0
+3,2
+3,3
+0,0
+1,0
+1,3
+1,0
+1,0
+2,0
+2,0
+0,3
+1,3
+0,2
+0,2
+0,0
+0,0
+0,3
+0,3
+3,3
+3,1
+2,0
+3,2
+1,0
+1,2
+0,0
+2,1
+2,0
+2,0
+3,3
+0,2
+2,0
+1,0
+1,3
+1,2
+3,3
+1,0
+0,2
+0,2
+3,0
+2,0
+0,2
+2,2
+1,2
+1,0
+2,3
+2,3
+3,3
+3,0
+2,1
+2,0
+0,1
+2,2
+1,0
+3,3
+3,0
+0,2
+1,2
+0,0
+1,0
+2,0
+2,2
+3,0
+1,0
+3,2
+1,0
+1,1
+1,2
+3,3
+1,0
+2,0
+3,3
+1,2
+2,0
+3,3
+2,2
+0,0
+0,3
+2,2
+1,3
+2,3
+0,2
+1,0
+3,2
+3,2
+3,3
+1,3
+3,0
+0,0
+1,2
+1,0
+2,3
+2,3
+1,0
+1,1
+3,0
+1,0
+3,0
+0,2
+3,3
+3,3
+2,0
+1,0
+1,0
+2,1
+2,3
+2,0
+2,2
+1,0
+2,3
+3,2
+3,3
+3,2
+0,0
+0,0
+0,3
+2,1
+0,3
+0,0
+1,0
+2,0
+1,0
+0,0
+2,0
+2,0
+3,3
+1,0
+0,3
+2,0
+2,0
+2,0
+2,0
+3,0
+3,0
+3,3
+2,3
+1,2
+1,0
+0,0
+3,0
+1,3
+2,0
+0,2
+3,2
+2,2
+1,1
+0,0
+1,3
+3,3
+0,3
+3,3
+3,2
+0,3
+1,2
+0,3
+1,0
+1,2
+0,2
+1,0
+0,3
+1,3
+1,0
+1,3
+3,2
+2,3
+3,2
+3,0
+2,0
+0,0
+3,3
+3,0
+3,3
+0,0
+2,3
+2,2
+0,2
+0,0
+0,0
+1,0
+3,0
+1,3
+2,0
+0,0
+0,0
+3,2
+2,3
+1,0
+1,0
+2,2
+3,0
+1,2
+1,2
+2,0
+2,0
+3,1
+1,2
+1,0
+2,2
+2,0
+1,3
+0,3
+2,2
+3,1
+2,3
+1,2
+2,2
+2,2
+2,0
+1,2
+0,2
+0,0
+2,0
+1,1
+2,3
+0,3
+2,0
+3,2
+1,3
+1,0
+2,2
+0,3
+2,0
+2,0
+1,0
+2,3
+1,2
+0,0
+0,0
+2,0
+1,0
+1,2
+3,1
+0,0
+1,0
+2,1
+2,3
+3,3
+3,3
+2,0
+0,1
+3,0
+0,2
+1,0
+3,0
+1,2
+0,0
+2,3
+2,2
+0,3
+1,2
+3,2
+2,3
+3,3
+3,2
+0,3
+2,3
+3,0
+2,0
+3,0
+0,3
+3,2
+0,0
+3,3
+2,2
+0,2
+2,3
+3,0
+1,0
+2,0
+0,0
+3,0
+2,0
+1,0
+2,0
+0,0
+1,2
+1,0
+3,0
+3,0
+1,2
+2,1
+1,0
+2,0
+1,0
+3,0
+0,2
+3,0
+1,3
+1,0
+2,3
+3,2
+1,0
+3,0
+3,2
+1,3
+3,3
+2,2
+0,2
+3,3
+2,2
+3,3
+2,3
+3,2
+1,3
+1,0
+1,2
+2,2
+1,1
+3,2
+1,0
+2,2
+2,0
+3,2
+2,2
+3,2
+2,3
+1,0
+3,2
+3,0
+0,2
+3,2
+1,2
+2,0
+2,2
+0,2
+2,3
+2,3
+2,1
+3,2
+2,0
+0,0
+3,0
+2,2
+3,2
+1,2
+2,2
+1,3
+3,0
+2,2
+2,2
+1,0
+2,2
+2,2
+1,3
+2,3
+3,0
+3,2
+1,2
+2,3
+3,0
+1,0
+2,2
+1,2
+2,0
+3,0
+0,2
+2,0
+2,0
+0,0
+3,2
+0,2
+1,3
+3,3
+0,2
+2,0
+2,2
+2,3
+0,0
+3,0
+0,2
+2,2
+2,2
+2,2
+1,3
+0,0
+1,2
+2,3
+2,1
+1,0
+3,0
+2,0
+2,0
+3,0
+0,0
+3,3
+1,0
+2,2
+0,2
+0,2
+0,0
+2,0
+2,0
+1,2
+3,2
+3,0
+2,2
+3,2
+3,0
+2,2
+2,2
+1,3
+1,3
+3,2
+2,0
+3,2
+3,2
+0,1
+1,3
+3,0
+3,0
+1,0
+0,3
+0,2
+2,0
+0,3
+1,1
+0,2
+1,3
+2,3
+0,2
+2,2
+3,0
+2,2
+2,0
+1,3
+1,0
+2,3
+2,3
+0,0
+1,0
+3,0
+2,2
+0,0
+2,0
+2,3
+2,2
+2,0
+3,3
+1,0
+2,2
+1,3
+3,2
+0,3
+0,2
+3,0
+0,1
+1,3
+0,0
+2,3
+0,2
+2,2
+2,0
+3,0
+2,0
+0,0
+3,0
+3,0
+3,0
+0,2
+1,2
+1,3
+1,0
+0,1
+1,2
+0,0
+1,0
+1,2
+2,2
+3,1
+0,1
+3,0
+0,3
+3,2
+2,1
+3,2
+1,0
+3,3
+1,2
+2,2
+0,1
+3,0
+3,0
+2,2
+1,3
+2,0
+3,2
+0,2
+2,0
+3,0
+2,3
+1,0
+1,0
+2,0
+0,0
+0,0
+2,2
+0,0
+1,0
+3,1
+1,2
+2,3
+0,3
+2,2
+2,2
+2,3
+0,2
+1,2
+1,3
+0,0
+3,3
+0,2
+3,3
+3,3
+1,2
+3,3
+0,1
+1,0
+0,0
+1,1
+0,0
+2,2
+1,2
+0,0
+3,2
+0,3
+0,1
+3,2
+0,0
+2,2
+3,3
+2,2
+0,0
+3,3
+2,2
+1,3
+0,3
+3,3
+1,0
+2,1
+2,3
+2,0
+1,2
+3,0
+2,3
+1,0
+2,3
+0,0
+2,0
+3,2
+3,2
+3,0
+0,2
+1,2
+1,0
+3,1
+3,0
+3,3
+0,2
+1,3
+1,0
+0,0
+2,3
+2,2
+2,2
+3,3
+1,2
+1,3
+1,3
+2,0
+2,0
+3,1
+3,2
+1,0
+3,3
+3,3
+2,3
+2,2
+0,3
+2,0
+2,0
+3,0
+0,0
+3,0
+1,2
+1,0
+2,2
+1,2
+3,3
+3,0
+0,3
+0,3
+1,3
+2,2
+1,0
+2,2
+3,1
+0,3
+3,0
+0,2
+1,3
+2,0
+2,2
+1,1
+1,0
+0,2
+0,3
+2,0
+0,3
+1,3
+0,3
+2,2
+1,3
+2,3
+1,0
+1,0
+2,1
+3,0
+2,1
+1,0
+2,1
+0,3
+1,0
+3,2
+1,2
+2,2
+2,3
+3,0
+2,2
+2,2
+0,2
+2,2
+3,3
+2,3
+2,0
+0,0
+3,0
+3,2
+0,2
+1,3
+1,1
+0,1
+0,0
+0,1
+3,2
+0,0
+3,0
+2,0
+0,0
+2,2
+2,3
+3,2
+2,3
+0,0
+0,2
+2,2
+0,0
+3,3
+3,3
+3,2
+2,1
+1,0
+2,2
+1,2
+2,2
+0,2
+0,0
+1,0
+1,1
+0,0
+0,3
+2,0
+1,0
+0,0
+3,0
+3,3
+3,3
+2,1
+2,0
+1,2
+2,0
+2,3
+3,0
+3,2
+2,0
+3,2
+2,3
+3,2
+1,0
+1,0
+3,3
+2,0
+1,0
+2,2
+2,0
+3,0
+3,0
+2,0
+3,0
+1,0
+1,0
+0,0
+2,3
+0,3
+1,0
+1,0
+0,0
+2,2
+3,0
+3,3
+0,2
+0,3
+3,0
+2,2
+1,0
+0,0
+3,3
+1,3
+3,0
+3,2
+2,0
+0,3
+3,0
+0,0
+2,3
+2,0
+0,0
+3,0
+2,3
+2,0
+1,1
+1,0
+1,3
+1,3
+1,3
+3,3
+3,0
+0,0
+0,0
+1,1
+2,0
+0,2
+3,3
+3,0
+1,2
+2,0
+0,0
+2,3
+2,2
+3,3
+3,3
+2,3
+0,0
+2,2
+1,2
+2,2
+1,3
+1,0
+0,0
+1,3
+0,3
+2,3
+1,0
+1,0
+2,1
+0,0
+3,0
+0,3
+0,0
+0,3
+1,2
+2,3
+1,2
+1,2
+0,2
+0,3
+2,0
+0,2
+3,0
+0,0
+3,0
+2,3
+2,3
+2,2
+3,2
+1,0
+0,3
+2,2
+2,0
+2,0
+0,0
+2,0
+1,3
+3,0
+2,0
+2,3
+3,3
+1,3
+3,2
+2,3
+3,3
+1,0
+0,0
+2,3
+0,3
+3,2
+3,0
+2,2
+3,3
+2,3
+3,0
+3,0
+1,2
+0,3
+2,2
+3,2
+1,2
+0,2
+0,3
+1,0
+2,3
+0,3
+3,0
+0,0
+1,3
+3,3
+0,0
+1,0
+0,1
+2,0
+0,0
+2,3
+1,0
+3,3
+1,3
+3,3
+2,0
+1,3
+2,3
+2,2
+3,0
+0,2
+1,2
+0,2
+0,3
+2,2
+0,1
+1,0
+1,2
+3,0
+0,0
+2,0
+3,0
+2,2
+3,3
+2,2
+1,3
+0,2
+3,0
+3,3
+2,0
+3,2
+0,3
+1,0
+2,3
+1,1
+3,2
+3,2
+0,0
+2,0
+0,0
+2,3
+0,0
+3,3
+3,2
+3,2
+1,0
+1,0
+1,2
+3,3
+3,0
+0,2
+3,3
+3,0
+1,1
+1,3
+0,3
+2,3
+2,2
+1,0
+0,2
+2,0
+1,2
+0,0
+3,0
+3,2
+1,2
+0,2
+0,0
+2,0
+2,0
+2,2
+0,0
+2,1
+1,3
+0,0
+0,0
+0,1
+1,3
+3,0
+0,0
+3,1
+0,2
+0,3
+3,0
+1,2
+3,3
+2,0
+3,0
+1,2
+2,0
+0,1
+2,3
+1,2
+3,2
+2,0
+1,2
+1,3
+2,2
+3,1
+3,0
+0,3
+3,0
+3,0
+3,0
+1,2
+0,0
+3,0
+2,3
+3,3
+0,3
+0,3
+2,2
+3,2
+1,0
+3,2
+0,2
+0,3
+2,0
+2,2
+3,0
+1,3
+1,1
+1,2
+2,0
+0,2
+1,3
+3,2
+2,2
+1,3
+2,0
+3,0
+0,3
+2,0
+1,0
+1,2
+2,1
+2,0
+1,2
+2,3
+1,3
+0,2
+1,0
+2,2
+1,0
+0,0
+1,3
+1,1
+1,2
+2,3
+2,0
+3,2
+2,3
+0,2
+0,2
+2,3
+2,2
+0,1
+0,2
+1,3
+3,2
+3,3
+2,1
+2,2
+0,3
+2,0
+0,3
+0,0
+2,0
+1,0
+2,0
+0,3
+1,3
+0,0
+1,2
+0,3
+3,1
+0,3
+2,2
+0,2
+0,0
+0,2
+1,1
+1,3
+2,0
+0,2
+2,3
+3,1
+3,2
+3,0
+2,0
+2,3
+1,0
+1,2
+0,0
+0,0
+3,3
+2,0
+0,0
+0,1
+2,0
+3,0
+0,0
+0,0
+0,0
+0,3
+3,3
+2,0
+3,0
+3,2
+3,2
+1,0
+1,0
+3,3
+0,3
+3,3
+0,0
+0,3
+3,0
+1,0
+0,3
+3,2
+3,2
+2,2
+0,2
+2,2
+3,0
+2,3
+1,2
+0,0
+1,0
+3,0
+1,3
+2,0
+2,0
+2,0
+0,3
+0,3
+0,2
+0,0
+0,2
+0,2
+0,2
+1,0
+3,1
+2,0
+2,2
+0,0
+3,1
+2,0
+2,0
+1,0
+2,1
+1,3
+3,2
+1,0
+0,0
+2,2
+0,3
+2,0
+1,0
+3,0
+1,2
+0,3
+0,2
+2,0
+1,2
+1,0
+1,0
+2,0
+2,3
+0,0
+2,0
+1,0
+1,3
+3,3
+3,3
+2,0
+2,2
+3,1
+2,0
+0,2
+1,0
+0,0
+3,1
+3,3
+2,1
+2,2
+1,2
+3,3
+3,0
+0,2
+3,0
+0,0
+3,0
+2,3
+2,3
+3,3
+2,2
+3,2
+0,0
+3,3
+2,2
+3,0
+2,1
+3,2
+3,0
+2,0
+3,0
+3,0
+0,0
+1,3
+0,0
+1,2
+3,2
+1,2
+0,0
+2,2
+1,2
+3,0
+3,0
+3,0
+1,3
+1,0
+2,3
+3,3
+0,0
+1,3
+2,3
+1,2
+2,0
+1,2
+3,0
+3,2
+3,0
+0,0
+0,0
+1,0
+2,2
+1,3
+2,3
+1,3
+2,1
+3,2
+1,2
+3,2
+0,0
+2,3
+1,3
+0,2
+0,2
+0,2
+2,3
+0,0
+2,0
+1,0
+2,0
+3,0
+2,1
+3,3
+1,2
+3,2
+0,3
+2,1
+1,1
+1,0
+0,2
+0,2
+2,0
+2,0
+0,3
+1,1
+3,2
+1,2
+0,2
+0,0
+1,3
+3,3
+0,2
+1,3
+0,2
+3,2
+2,3
+0,1
+0,0
+2,2
+0,3
+1,0
+2,3
+2,3
+3,2
+1,0
+0,3
+3,3
+2,0
+0,2
+3,0
+3,2
+2,3
+1,0
+1,1
+0,2
+0,2
+2,2
+3,3
+0,2
+1,2
+2,2
+0,3
+2,2
+0,0
+1,0
+0,2
+0,2
+0,1
+1,0
+2,2
+0,0
+1,3
+3,3
+3,2
+3,0
+1,2
+0,1
+0,0
+3,2
+1,2
+0,2
+1,3
+0,2
+2,2
+1,0
+3,3
+0,2
+3,0
+2,0
+3,1
+0,0
+2,2
+2,3
+2,2
+0,3
+1,0
+2,3
+2,0
+2,0
+1,2
+3,0
+2,3
+2,0
+1,3
+3,2
+1,2
+2,3
+3,0
+3,1
+2,2
+1,0
+2,2
+1,3
+1,3
+0,2
+1,3
+3,3
+3,3
+2,3
+2,0
+0,2
+2,0
+2,0
+1,0
+1,2
+3,3
+2,0
+2,0
+2,0
+1,3
+2,3
+3,2
+1,0
+1,3
+1,0
+0,2
+1,0
+3,3
+0,3
+2,0
+0,3
+0,3
+0,2
+1,2
+0,2
+0,2
+0,0
+0,0
+0,0
+2,0
+2,2
+1,0
+3,2
+1,1
+1,0
+2,0
+3,1
+2,2
+1,2
+2,2
+0,2
+0,0
+3,0
+0,3
+3,3
+0,0
+0,2
+2,2
+2,3
+3,0
+0,3
+1,2
+3,2
+0,0
+0,0
+3,1
+1,2
+0,2
+0,3
+2,0
+3,0
+1,3
+1,2
+1,0
+3,0
+1,0
+3,0
+0,2
+0,3
+1,3
+1,2
+1,3
+3,0
+2,1
+3,0
+2,2
+0,3
+1,2
+1,0
+2,3
+1,0
+1,2
+1,2
+2,1
+3,2
+0,0
+3,2
+1,3
+2,2
+1,2
+3,3
+1,2
+1,3
+1,3
+2,3
+0,0
+0,0
+3,2
+0,1
+1,3
+1,2
+3,0
+2,2
+2,0
+2,2
+1,0
+2,0
+1,2
+0,1
+2,1
+1,0
+0,0
+1,2
+2,3
+1,1
+0,1
+3,2
+1,0
+1,3
+1,3
+1,0
+2,0
+1,2
+2,3
+1,0
+2,2
+1,2
+3,0
+1,3
+1,1
+2,1
+1,3
+0,0
+1,1
+2,3
+0,0
+0,0
+3,1
+2,1
+3,0
+1,2
+3,3
+2,2
+1,0
+3,0
+2,0
+1,3
+0,2
+0,3
+2,2
+2,0
+1,3
+0,3
+1,0
+2,0
+2,0
+0,0
+2,2
+0,2
+3,3
+3,0
+1,2
+0,1
+2,2
+3,2
+3,2
+2,2
+0,3
+3,3
+3,2
+0,0
+2,0
+1,3
+3,0
+2,2
+0,3
+3,3
+3,1
+1,3
+3,0
+1,0
+1,0
+3,3
+0,0
+2,3
+1,0
+2,3
+3,2
+2,3
+3,0
+0,3
+0,0
+1,2
+1,0
+3,3
+3,0
+2,0
+2,0
+3,2
+3,0
+0,2
+3,0
+0,2
+1,2
+2,2
+1,0
+0,3
+0,3
+3,2
+0,3
+2,0
+3,0
+1,2
+0,0
+3,0
+2,2
+3,3
+0,2
+0,3
+1,3
+2,3
+0,3
+2,0
+2,3
+3,3
+2,2
+3,0
+0,3
+0,2
+1,3
+3,2
+3,3
+2,2
+3,2
+3,2
+1,2
+0,2
+2,1
+1,0
+3,0
+1,0
+0,2
+1,2
+1,2
+3,2
+2,2
+1,3
+2,3
+0,1
+2,2
+3,2
+3,2
+0,0
+2,2
+1,0
+2,1
+1,2
+0,0
+0,2
+1,2
+3,3
+0,3
+0,3
+2,3
+2,0
+1,2
+2,3
+3,2
+3,0
+3,2
+0,0
+2,2
+2,0
+0,0
+0,0
+0,1
+1,3
+2,3
+2,1
+0,3
+1,0
+3,0
+2,2
+2,2
+1,3
+1,0
+3,2
+0,2
+3,3
+3,0
+0,2
+3,2
+0,0
+2,0
+2,3
+0,3
+2,0
+0,0
+1,1
+1,2
+1,3
+0,2
+0,2
+0,3
+2,3
+3,1
+1,3
+0,0
+0,0
+3,3
+3,0
+3,0
+1,3
+1,0
+1,0
+2,3
+1,2
+0,2
+2,2
+1,0
+2,0
+3,2
+2,2
+3,2
+2,0
+0,2
+2,3
+1,2
+0,2
+3,0
+2,2
+2,0
+0,2
+1,0
+3,2
+1,1
+3,2
+3,2
+2,3
+2,0
+0,2
+1,0
+1,0
+1,2
+3,0
+1,2
+1,0
+1,0
+3,0
+2,0
+2,2
+3,0
+3,0
+0,3
+2,0
+2,0
+0,3
+2,0
+2,0
+0,0
+0,3
+3,0
+0,3
+2,3
+3,3
+3,0
+1,3
+0,1
+1,2
+3,3
+2,0
+1,0
+3,3
+0,3
+2,2
+2,2
+2,1
+0,0
+1,2
+3,0
+0,0
+0,3
+3,2
+0,0
+3,0
+3,0
+1,1
+1,0
+2,1
+2,0
+1,0
+1,1
+3,3
+2,0
+3,1
+0,3
+3,2
+3,2
+1,3
+0,0
+3,0
+2,1
+3,0
+0,2
+0,0
+3,0
+0,0
+3,3
+3,3
+2,0
+2,2
+1,2
+2,0
+2,3
+0,0
+3,0
+0,0
+3,0
+2,0
+2,0
+3,0
+0,2
+1,0
+1,2
+0,2
+0,3
+2,0
+3,0
+1,2
+2,0
+0,2
+1,2
+3,2
+0,0
+0,3
+1,3
+1,0
+3,3
+1,2
+1,0
+0,0
+1,2
+2,3
+0,0
+2,0
+0,3
+2,3
+0,3
+0,3
+3,2
+3,0
+2,2
+2,2
+0,3
+3,0
+0,0
+0,0
+0,0
+1,2
+3,2
+3,3
+0,3
+0,0
+3,2
+0,3
+3,3
+2,0
+1,0
+1,3
+1,3
+2,2
+0,0
+3,2
+1,3
+2,0
+3,2
+2,2
+0,0
+3,3
+2,0
+0,3
+2,3
+1,2
+3,2
+2,0
+2,3
+2,0
+1,0
+2,0
+2,0
+3,1
+2,2
+2,0
+0,0
+0,2
+0,2
+1,0
+3,3
+2,3
+2,3
+0,0
+0,2
+1,0
+3,1
+1,3
+0,2
+1,3
+3,0
+1,0
+2,0
+2,2
+0,0
+1,0
+2,0
+2,0
+0,1
+0,3
+2,3
+1,0
+1,3
+3,2
+0,2
+1,0
+0,0
+3,2
+0,0
+2,0
+1,3
+2,2
+1,3
+1,2
+2,0
+0,2
+3,2
+3,0
+3,0
+0,1
+1,2
+3,0
+0,0
+0,3
+3,0
+3,3
+1,3
+3,0
+0,0
+0,0
+2,2
+0,0
+2,3
+1,0
+1,2
+0,2
+3,3
+2,2
+1,0
+2,1
+2,0
+3,0
+0,3
+1,2
+1,0
+2,1
+2,0
+2,0
+0,0
+2,0
+2,0
+3,3
+2,3
+3,2
+0,3
+3,2
+1,0
+1,0
+2,3
+3,2
+1,2
+2,2
+0,0
+3,0
+0,0
+2,0
+1,3
+3,2
+0,2
+0,2
+2,0
+2,2
+1,1
+0,2
+0,0
+0,2
+3,2
+0,0
+3,0
+3,2
+2,2
+0,3
+2,0
+3,0
+0,2
+3,3
+1,2
+3,3
+3,2
+1,0
+1,2
+0,1
+0,0
+1,3
+2,2
+3,3
+2,1
+0,0
+0,2
+0,2
+2,0
+0,2
+2,0
+3,0
+2,2
+2,0
+2,2
+0,2
+0,0
+0,1
+2,2
+1,0
+1,0
+0,2
+2,0
+0,0
+2,2
+3,3
+1,2
+0,0
+1,0
+3,0
+3,2
+0,0
+3,2
+1,2
+3,2
+2,3
+2,0
+2,0
+3,1
+1,3
+0,0
+1,2
+3,1
+2,0
+2,3
+1,2
+3,3
+2,0
+0,0
+3,0
+0,2
+3,0
+3,2
+2,3
+0,3
+0,3
+0,0
+2,2
+1,0
+0,1
+0,1
+2,0
+0,3
+1,0
+3,0
+0,2
+1,3
+2,3
+3,1
+3,0
+0,0
+1,0
+1,2
+3,3
+0,0
+2,2
+2,3
+1,3
+0,2
+0,3
+2,3
+1,2
+3,2
+3,3
+3,2
+3,2
+3,0
+2,1
+3,0
+0,3
+0,2
+3,2
+3,3
+2,0
+2,0
+3,0
+1,2
+3,2
+2,3
+2,0
+1,3
+3,3
+0,3
+2,0
+0,3
+2,0
+1,0
+2,0
+0,0
+0,0
+3,2
+0,1
+3,0
+2,2
+0,3
+2,3
+1,2
+3,1
+0,3
+2,0
+3,3
+1,2
+0,3
+0,0
+0,3
+0,0
+0,0
+1,0
+3,2
+0,0
+3,0
+2,0
+1,2
+1,0
+0,2
+2,3
+0,3
+2,3
+2,0
+0,0
+2,3
+1,0
+0,2
+1,3
+2,3
+0,3
+3,2
+0,2
+2,1
+3,3
+2,2
+1,1
+0,3
+3,0
+1,3
+1,0
+1,0
+0,0
+3,2
+2,2
+2,0
+2,3
+2,2
+1,3
+2,0
+1,0
+3,1
+0,2
+0,3
+3,3
+3,0
+1,2
+2,3
+0,2
+3,3
+3,0
+1,2
+3,0
+3,2
+3,3
+3,2
+3,3
+3,2
+3,0
+3,0
+2,2
+1,3
+0,0
+2,0
+0,0
+1,0
+2,0
+3,1
+3,2
+3,3
+2,0
+3,3
+3,1
+0,2
+2,0
+0,3
+0,0
+3,0
+2,3
+3,0
+2,3
+0,0
+2,0
+1,0
+1,3
+1,2
+1,2
+3,1
+2,1
+3,3
+0,0
+3,2
+2,0
+1,0
+0,2
+2,2
+3,0
+2,0
+3,0
+2,0
+2,2
+1,2
+0,3
+2,0
+2,2
+2,3
+3,3
+2,2
+1,0
+1,0
+2,2
+3,2
+3,2
+3,3
+3,2
+1,3
+2,0
+1,2
+1,3
+2,3
+0,0
+1,0
+3,0
+0,0
+3,2

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.0.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 755, "1": 0, "2": 9, "3": 0}, "net_accuracy": 0.23565700185070945}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.10.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 420, "1": 89, "2": 28, "3": 276}, "net_accuracy": 0.25077112893275755}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.11.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 2, "1": 175, "2": 163, "3": 556}, "net_accuracy": 0.27637260950030845}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.2.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 770, "1": 0, "2": 0, "3": 0}, "net_accuracy": 0.23750771128932757}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.2.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 770, "1": 0, "2": 0, "3": 0}, "net_accuracy": 0.23750771128932757}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.3.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 73, "1": 0, "2": 0, "3": 740}, "net_accuracy": 0.25077112893275755}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.3.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 770, "1": 0, "2": 0, "3": 0}, "net_accuracy": 0.23750771128932757}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.4.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 739, "1": 39, "2": 0, "3": 0}, "net_accuracy": 0.23997532387415177}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.5.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 288, "1": 53, "2": 383, "3": 62}, "net_accuracy": 0.24244293645897594}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.6.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 765, "1": 4, "2": 0, "3": 3}, "net_accuracy": 0.23812461443553362}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.6.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 770, "1": 0, "2": 0, "3": 0}, "net_accuracy": 0.23750771128932757}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.7.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 770, "1": 0, "2": 0, "3": 0}, "net_accuracy": 0.23750771128932757}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.7.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 770, "1": 0, "2": 0, "3": 0}, "net_accuracy": 0.23750771128932757}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.8.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 770, "1": 0, "2": 0, "3": 0}, "net_accuracy": 0.23750771128932757}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_blocks.9.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 770, "1": 0, "2": 0, "3": 0}, "net_accuracy": 0.23750771128932757}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_ln_final.hook_normalized.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 753, "1": 4, "2": 4, "3": 4}, "net_accuracy": 0.23596545342381245}

mmlu_other/few_shot_0/gpt2/last_token_relative_depth_100/accuracy_output.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 770, "1": 869, "2": 791, "3": 812}, "correct_per_class": {"0": 753, "1": 4, "2": 4, "3": 4}, "net_accuracy": 0.23596545342381245}