Eh bien, au débotté, je vous répondrais que cela dépend.
Prenons comme référence le CD, au son sans compression, dont le poids à la seconde est de 1 411 kb (16 bits, 44,1 kHz).
Par rapport au 64 kbits, je pense qu'une différence est perceptible en écoute comparée par la plupart des gens sur la plupart des émissions à France Culture, dans la mesure où le son FC n'est pas comprimé à l'excès (il s'agit là de compression dynamique, mais ça pèse sur la quantité d'information véhiculée - moins dans le cas d'une dynamique plus faible -).
A 128 kbits, plus de différences notable à mon avis dans une émission de dialogues. Pour un contenu musical, ça dépend : dans la plupart des musiques à faible dynamique, tels la pop, le rock (avec bien sûr de nombreuses exceptions type rock progressif) et toutes les musiques à but de stimulation du réflexe danseur, il doit être difficile de percevoir de réelles différences, peut-être y en a-t-il du côté des son très aigus, dont le rendu est limité par le taux d'échantillonnage.
La musique classique, le jazz et les feuilletons gagnent à monter dans les kbits, et à 128, les oreilles attentives remarqueront sûrement des différences avec le CD.
A 256, je ne vois guère que l'enregistrement d'un orchestre symphonique ou le concert d'orgue pour ne pas s'en satisfaire entièrement, et encore.
Il faut voir que dans le cas du format mp3, la compression est obtenue de plusieurs façon, et que lorsqu'on lui fixe une taille cible, l'algorithme de compression s'y tient en jouant sur les différents paramètres (il existe des modes de compression à taille variable, où à l'inverse on garde constant certains de ces paramètres de compression) : la réduction de la dynamique (aussi appelée compression, mais c'est autre chose en soi que de la compression de données, et c'est un procédé qui peut être souhaitable à d'autres fins), l'élimination des fréquences inaudibles ou très peu audibles, le travail sur d'autres caractéristiques du son dont des études psychoacoustiques ont montré qu'elles pouvaient permettre de supprimer des données sans que cela ne se perçoive trop.
Bref, à taille constante, le résultat dépend aussi de la source. S'il s'agissait d'encoder un son pur, une sinusoïde parfaite et sans harmonique, la compression MP3 donnerait probablement un résultat extraordinaire par rapport à la place occupée sur un CD. Mais avec une source très riche, à la fois en fréquence et en dynamique, comme l'est le concert d'un orchestre philharmonique, imposer du 128 kbits risque de se faire sentir.