James Guillaume est né à Londres, le 16 février 1844, fils de Marie-Suzanne Guillaume-Glady, de nationalité française, et de Georges Guillaume, citoyen suisse. Il fonda alors, en 1866, avec Constantin Meuron la section du Locle de l’Association Internationale des Travailleurs (AIT). Puis en 1869, il dut renoncer à son activité d’enseignant en raison de son engagement politique. Il reprit alors l’imprimerie familiale, à Neuchâtel.

Dans cette imprimerie parurent, dans les années qui suivirent, de nombreuses publications du socialisme libertaire; en effet, la même année, Guillaume rencontrait le révolutionnaire russe Bakounine, qui le gagna aux idées collectivistes, et aussi anarchistes. Et avec Adhémar Schwitzguebel, il compta, les années suivantes, parmi les personnes de confiance les plus proches de Bakounine.

En 1870, Guillaume se maria avec Elise Golay.

Guillaume devint, en 1871, co-fondateur de la «Fédération Jurassienne»; membre de l’AIT, elle se mit à se distancer du Secrétariat général de l’AIT très marqué par la personne de Marx, à Londres. Comme rédacteur du « Bulletin de la Fédération Jurassienne », qui parut dès le 15 février 1872, l’organe alors de la Fédération Jurassienne, il devint un personnage-clé de cette fédération.

Au Congrès de La Haye de l’AIT (en 1872), Guillaume fut exclu de l’Association, tout comme Bakounine. Peu de temps après, il devenait co-fondateur de l’Internationale antiautoritaire, créée à ce moment en réaction à la manière de faire du Secrétariat général de l’AIT.

Les 6 années qui suivirent, il compta parmi les principaux acteurs du Socialisme libertaire. Une radicalisation de l’organisation se produisit sous l’influence de l’activiste français Paul Brousse, un fait qu’il enregistra avec bien du souci. Pourtant il ne se voulait pas contre l’idée de «Propagande de l’action», mais insista plutôt sur ses effets secondaires, contraproductifs. A l’occasion d’une commémoration en souvenir de la Commune de Paris, à Berne (le 18 mars 1877), des gens en étaient venus à s’en prendre physiquement à d’autres: 6 policiers et de nombreux manifestants y furent  blessés. Ces évènements avaient conduit à un isolement des activistes de la Fédération Jurassienne.

Comme d’autres qui avaient participé à la manifestation de Berne, Guillaume fut condamné à une peine de prison. En lien avec ce jugement, sa femme souffrit d’une dépression nerveuse; cela l’impressionna beaucoup. De plus, il évaluait l’évolution politique future comme plutôt pessimiste.

En avril 1878, il quitta la Fédération Jurassienne, il expliqua alors que ce passé était «mort et enterré».

Guillaume se rendit à Paris, y travailla comme rédacteur à la «Revue Pédagogique». Dans le courant de 1889, il devint citoyen français. Vers 1905, Guillaume fut une dernière fois actif politiquement. Le renforcement du syndicalisme et de l’anarchie à l’intérieur du syndicat français CGT, dans d’autres pays aussi, fit germer l’espoir en lui qu’un courant révolutionnaire dans le mouvement ouvrier pourrait ouvrir la voie à une société plus juste.

Sa rencontre avec Jean Jaurès et l’intérêt que lui portèrent de jeunes syndicalistes encouragèrent son idée de réaliser une Histoire de l’Internationale, marquée aussi de son empreinte. De 1905 à 1910, il publia donc un ouvrage en 4 volumes: «L’Internationale, documents et souvenirs».

Sa conception du monde fut aussi marquée par des expériences négatives, venues de l’aile centraliste et étatique du mouvement ouvrier qu’incorporait, selon lui, la social-démocratie en Allemagne. Expériences qui contribuèrent beaucoup à ce que ce leader ouvrier engagé et internationaliste depuis de longues années, s’opposa à l'alliance des Empires centraux (Prusse, Autriche-Hongrie,…) au moment où éclata la Première Guerre mondiale. Guillaume était d’accord avec la décision de la CGT de soutenir la trève entre les forces politiques de la France pour défendre la République.

Le 20 novembre 1916, cet historien et leader ouvrier de longue date décédait à Paris.