Da hast du recht, dass die Qualität in Prozent nichts über die Dateigröße bzw. den Verlust an Bildinformation aussagt. Prinzipiell würde ich für halbwegs ansehnliche Bilder keine Kompression unter 80 nehmen, für's Web liegt meine persönliche Schmerzgrenze bei 65.
Wer genauer wissen möchte, wie der Kompressionsalgorithmus von JPEG funktioniert, kann es u.a. in der Wikipedia nachlesen:
http://de.wikipedia.org/wiki/JPEG
Liebe Grüße.