1:

<form onsubmit="return formcheck();">...</form>

1: 
2: 
3:

<script type="text/javascript">
document.getElementById('bilderwahl').onsubmit = formcheck;
</script>

1: 
2: 
3: 
4: 
5: 
6: 
7: 
8: 
9: 
10: 
11: 
12: 
13: 
14: 
15: 
16: 
17: 
18: 
19: 
20:

function formcheck() {
	var auswahl = 0;

	if(document.bilderwahl.bild0.checked) { auswahl++;	}
	if(document.bilderwahl.bild1.checked) { auswahl++;	}
	if(document.bilderwahl.bild2.checked) { auswahl++;	}
	if(document.bilderwahl.bild3.checked) { auswahl++;	}
	if(document.bilderwahl.bild4.checked) { auswahl++;	}
	if(document.bilderwahl.bild5.checked) { auswahl++;	}
	if(document.bilderwahl.bild6.checked) { auswahl++;	}
	if(document.bilderwahl.bild7.checked) { auswahl++;	}
	if(document.bilderwahl.bild8.checked) { auswahl++;	}
	if(document.bilderwahl.bild9.checked) { auswahl++;	}
	if(document.bilderwahl.bild10.checked) { auswahl++;	}
	if(document.bilderwahl.bild11.checked) { auswahl++;	}

	if(auswahl < 3) { alert("Bitte 3 Bilder auswählen."); return false; }
	else if(auswahl == 3) { return true; }
	else if(auswahl > 3) { alert("Bitte nicht mehr als 3 Bilder auswählen."); return false; }
}