Anthony Marcus Shalhoub est né le 9 octobre 1953 à Green Bay, dans le Wisconsin. Il devient alors le cadet d'une fratrie de dix enfants1. Son père, Joe Shalhoub originaire du Liban, immigre à l'âge de dix ans vers les États-Unis alors qu'il est orphelin. Il épouse ensuite la mère de Tony, Helen, qui fait partie de la deuxième génération d'arabes américains. Le couple crée une chaîne d'épicerie familiale. Leur premier magasin se situe au centre-ville de Green Bay. Les années passent et le jeune Tony est admis au théâtre grâce à sa sœur aînée, qui s'est permis d'inscrire son nom sur une liste d'extras dans une production de la comédie musicale Le Roi et moi. Bien qu'il se soit trouvé du mauvais côté du rideau lors de la répétition finale, il devient tout de suite dépendant au théâtre. Par la suite, Shalhoub est diplômé de la Green Bay East High School, école où ses camarades le désignent comme étant « le mieux habillé » et le plus susceptible de réussir. Mais dans ses années d'études, il subit un revers et se casse une jambe en tombant dans la fosse lors d'une répétition. Récupérant rapidement, Tony est quand même en mesure d'exécuter la pièce de théâtre de fin d'année jouée à l'école. Parmi ses autres diplômes, il obtient également un baccalauréat en art dramatique à l'Université de Southern Maine située à Portland, avant se voir décerner un certificat de maîtrise en drame de la part de la Yale School of Drama en 1980.