Ну да, Дирак и его высказывание "физическая теория должна быть математически красивой".
Консенсус обычно образуется (со временем). И какие-то работы называют гениальными, а какие-то просто забывают, или, намного, реже, рассматривают как "патологию". Не только в математике (термин "патолог" из физики, Ландау). Однако, если устроить опрос среди непрофессионалов о гениальности/бредовости конкретных работ, получится такая же ерунда, как и с искусством.
Чисто эвристически, для себя выработал критерий - если кто-то рассуждает о квадрате малевича в стиле "да такое и я могу нарисовать" - маркер почти столь же надежный, как и "попробовали бы они в мечете".