Son nom de Bailleul vient d’un village français, dans la Somme, dont sa famille était originaire. Il hérita de terres en Ecosse, en Angleterre et en France. En 1290, à la mort de Margaret, la «demoiselle de Norvège», qui était l’héritière du trône d’Écosse, il est l'un des treize prétendants à la succession entre lesquels Édouard Ier d’Angleterre doit jouer le rôle d’arbitre. Il l’emporte face à son principal adversaire, Robert Bruce, en 1292. Le peuple le surnomme Toom Tabard, le "vêtement vide", preuve qu’il est un roi sans autorité ni prestige. L’aristocratie ne lui obéit à aucun moment et Edouard se fait toujours plus exigeant, par exemple en 1294 lorsque le roi anglais prépare une expédition en Gascoigne; il exige de Balliol un appui militaire,l’écossais n’a pas le choix. Ne supportant plus cette situation l’aristocratie écossaise conclue une alliance avec la France en 1295. Les Ecossais réussiront à pénétrer le nord de l’Angleterre.

Devant les réussites écossaises Balliol dénonce son ancienne allégeance à Edouard, mais dès 1296 il cède et doit abdiquer devant le roi anglais entré en force en Ecosse pour faire plier les rebelles. Balliol sera dépouillé et enfermé à la Tour de Londres. Il sera relâché en 1299 et ira finir ses jours en Normandie. C’est au nom du roi prisonnier que le soulèvement de Wallace se fit, mais le roi Robert Ier Bruce ne reconnut aucune valeur aux actes de son ancien adversaire.