Mit diesem Beispiel wurde überprüft, ob eine von mehreren Checkboxen gecheckt wurden.

var checkboxValues = '';
jQuery("input[type=checkbox]").each(function(){
  if(jQuery(this).prop('checked') == true){
    checkboxValues += jQuery(this).val();
  }
});
if(checkboxValues.length < 1){
  // doSomething
}