Skip to content

Instantly share code, notes, and snippets.

@luctrudeau

luctrudeau/QP20

Last active May 24, 2017 23:52
Show Gist options
  • Save luctrudeau/7729d9b78d41ac8e3ba945c35e352453 to your computer and use it in GitHub Desktop.
Save luctrudeau/7729d9b78d41ac8e3ba945c35e352453 to your computer and use it in GitHub Desktop.
Download ZIP
AV1 CfL UV_MODE probabilities (1st Iteration)
Raw
QP20
{ 809 1414 1686 2140 2340 2760 3354 4081 4487 8677 9725 32768 },
{ 483 4578 5681 6226 6420 7431 7764 8140 9143 13357 15421 32768 },
{ 500 750 2859 3686 3851 4089 5184 6718 6932 11299 13573 32768 },
{ 3342 3939 4669 7937 8132 8575 9334 10361 11268 14623 15399 32768 },
{ 2601 3189 3644 4376 7461 8818 10136 10681 11261 15305 16195 32768 },
{ 3537 4669 5861 6552 7566 13059 13498 13905 14409 17485 18040 32768 },
{ 2414 2776 3351 4705 5457 5909 9635 10272 11094 14951 15738 32768 },
{ 1395 1772 2253 3669 3853 4163 4780 8072 8458 12718 13746 32768 },
{ 1952 3098 3848 5281 5512 6122 6605 7612 10399 14161 15142 32768 },
{ 630 1307 1693 2215 2460 2958 3656 4475 4960 10066 11240 32768 },
{ 2486 4003 5511 6323 6483 6948 7409 8243 8741 12826 15773 32768 },
Raw
QP32
{ 707 1095 1241 1578 1694 1961 2316 2783 3030 6967 7906 32768 },
{ 417 3355 5250 5716 5842 6603 6816 7083 7799 12038 14082 32768 },
{ 432 571 1955 3370 3469 3618 4361 5522 5660 9986 12202 32768 },
{ 4100 4499 5347 8170 8320 8653 9394 10259 10898 13959 14597 32768 },
{ 3020 3402 3831 4578 6870 8025 9078 9505 10013 14148 14893 32768 },
{ 4063 4773 6122 6817 7685 12569 12916 13258 13647 16760 17183 32768 },
{ 3005 3230 3640 5275 5834 6169 8973 9412 10328 14172 14798 32768 },
{ 1983 2212 2560 4375 4514 4732 5122 7681 7977 12032 12908 32768 },
{ 2632 3375 4365 5783 5969 6451 6871 7973 10124 13624 14499 32768 },
{ 683 1127 1398 1824 1988 2313 2768 3348 3698 8764 9840 32768 },
{ 3073 4055 5376 6230 6340 6704 6995 7598 7940 11782 14555 32768 },
Raw
QP43
{ 676 902 1007 1279 1352 1528 1725 2011 2175 5034 5777 32768 },
{ 409 2178 5275 5733 5827 6358 6494 6720 7186 10733 12548 32768 },
{ 431 517 1290 3681 3751 3848 4288 5096 5208 8786 10736 32768 },
{ 4920 5191 6186 8421 8555 8830 9617 10371 10796 13199 13731 32768 },
{ 3711 3951 4429 5244 6820 7711 8441 8753 9236 12601 13256 32768 },
{ 4657 5101 6637 7379 8150 12316 12578 12874 13183 15689 16003 32768 },
{ 3736 3870 4226 6216 6658 6911 8611 8901 9960 13007 13509 32768 },
{ 2767 2915 3237 5585 5708 5875 6131 7797 8033 11423 12158 32768 },
{ 3478 3952 5280 6619 6800 7211 7618 8903 10303 13025 13845 32768 },
{ 884 1170 1448 1854 1987 2199 2485 2876 3122 7406 8412 32768 },
{ 3645 4200 5482 6402 6487 6767 6951 7367 7588 10579 12845 32768 },
Raw
QP55
{ 683 832 931 1159 1215 1329 1452 1644 1757 3961 4561 32768 },
{ 438 1450 6281 6749 6837 7252 7349 7582 7874 10517 11968 32768 },
{ 482 552 1026 4891 4956 5035 5301 5837 5937 8756 10296 32768 },
{ 5853 6033 7214 9053 9189 9442 10330 11029 11342 13182 13633 32768 },
{ 4757 4907 5500 6446 7743 8471 8942 9191 9710 12153 12793 32768 },
{ 5423 5717 7508 8301 9086 12970 13177 13466 13754 15547 15759 32768 },
{ 4643 4724 5093 7531 7947 8151 9110 9315 10588 12842 13267 32768 },
{ 3782 3886 4265 7330 7468 7624 7833 8850 9070 11856 12460 32768 },
{ 4527 4847 6595 7879 8088 8508 8966 10552 11434 13380 14132 32768 },
{ 1310 1505 1891 2334 2472 2612 2812 3099 3292 6770 7776 32768 },
{ 4262 4603 5999 6998 7076 7326 7439 7742 7908 10071 11746 32768 },
Raw
QP63
{ 722 827 927 1123 1169 1252 1335 1466 1549 3100 3567 32768 },
{ 486 1059 8317 8806 8907 9287 9377 9643 9830 11563 12654 32768 },
{ 572 637 966 6987 7055 7125 7289 7626 7733 9761 10903 32768 },
{ 6895 7017 8413 10036 10184 10433 11453 12155 12404 13761 14159 32768 },
{ 6127 6214 6971 8100 9435 10134 10445 10672 11283 12846 13529 32768 },
{ 6256 6449 8520 9380 10233 14183 14368 14661 14952 16101 16237 32768 },
{ 5668 5721 6132 9075 9526 9720 10238 10386 11916 13402 13757 32768 },
{ 4963 5045 5519 9444 9612 9777 9992 10606 10843 13132 13615 32768 },
{ 5677 5903 8111 9426 9676 10143 10685 12626 13205 14464 15201 32768 },
{ 2043 2186 2781 3317 3492 3583 3754 3991 4165 6755 7855 32768 },
{ 4852 5072 6640 7731 7812 8060 8146 8400 8538 10023 11203 32768 },
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment