Comme le souligne Skodvin, « le GIEC a un mandat scientifique, tout en étant organisé au sein d’un cadre institutionnel politique » (Skodvin 2000 : 152, nous traduisons). Il est composée de trois groupes de travail (GT) qui correspondent à trois dimensions de la question climatique (voir tableau ci-dessus)) et représentent des communautés épistémiques relativement autonomes : le GT I étudie les principes physiques du changement climatique, le GT II s’intéresse aux questions des impacts, de la vulnérabilité et de l’adaptation au changement climatique et le GT III évalue les stratégies d’atténuation du changement climatique. La création des groupes a suscité de vifs débats, en particulier celle du GT III, suspecté de « biais idéologique fort (en clair une surdomination de l’expertise américaine) » (Hourcade 1996 : 63). Aujourd’hui encore, le GT III est le lieu d’intenses discussions politiques, comme par exemple au sujet des conditions d’équité, du droit au développement ou encore du rôle de la coopération internationale eu égard aux objectifs de réduction d’émissions de gaz à effet de serre.

Dirigé par deux coprésidents, chaque groupe de travail est responsable de la rédaction d’un rapport d’évaluation et d’un résumé à l’intention des décideurs (RID). Depuis son troisième cycle d’évaluation (2001), cycles dont la durée varie entre cinq et six ans, le GIEC publie un rapport de synthèse et un RID. En 1999, une équipe spéciale pour les inventaires nationaux de gaz à effet de serre a été constituée afin de conseiller les Etats dans leurs efforts pour traduire leur consommation d’énergie en émissions de gaz à effet de serre, et d’établir la méthodologie des inventaires nationaux. Les groupes de travail et l’équipe spéciale sont assistés par une unité de support technique (TSU) financée par le pays d’origine d’un des coprésidents.

Le travail du GIEC est supervisé par le bureau du GIEC, composé des vice-présidents, des coprésidents et vice-présidents des GT ainsi que des coprésidents de l’équipe spéciale, et présidé par le président du GIEC. L’ancien président indien, Rajendra Kumar Pachauri, dont le mandat devait s’achever avec la clôture du cinquième cycle d’évaluation en 2015, a démissioné le 24 février 2015. Il était visé par une plainte pour harcèlement sexuel, en pleine préparation pour la COP21. Le secrétariat et le siège du GIEC se trouvent dans les locaux de l’OMM à Genève. Les auteurs des rapports du GIEC étant rattachés à leurs institutions nationales respectives, seule une dizaine de personnes y travaillent. Le GIEC se réunit en séance plénière au moins une fois par an avec les délégations membres du PNUE et de l’OMM. Durant ces réunions, le GIEC prend des décisions relatives à son fonctionnement (élection du bureau et du président du GIEC, évaluation des procédures et des principes régissant le travail du GIEC, etc.) et à son budget. C’est également en séance plénière que le Groupe d’expert accepte et approuve les rapports d’évaluation et leurs RID, ce qui constitue le point le plus controversé de son mandat.

La structure du GIEC est très complexe et reflète à bien des égards la difficulté d’intégrer dans un même cadre d’action la dimension scientifique et la dimension politique. Depuis sa création en 1988, le GIEC a été amené à plusieurs reprises à redéfinir la frontière entre science et politique sur laquelle l’organisation fonde sa crédibilité, à la fois auprès de la communauté scientifique et des décideurs politiques. Alors que ses premiers travaux n’étaient encadrés par aucune règle formelle et reposaient principalement sur des pratiques scientifiques et des relations de confiance (Agrawala 1998b), l’organisation a été progressivement amenée à intégrer et à revisiter les normes qui structurent aujourd’hui son travail. Les procédures et principes gouvernant le GIEC ont été modifiés à plusieurs reprises depuis sa création en 1988, et de manière plus profonde en 2010 à la suite de la controverse du Climategate de 2009 (voir Fourcard 2009) et de l’examen des procédures et processus du GIEC par l’InterAcademy Council (IAC), faisant suite, à la demande du président du GIEC et du Secrétaire générale des Nations unies après l'indentification de plusieurs erreurs dans ses rapports. Le choix de l’IAC, une fondation composée d’académies nationales des sciences, n’est pas anodin et permettait ainsi de réaffirmer la crédibilité et la confiance des Etats en l’institution du GIEC.

La crédibilité du GIEC repose sur des actions spécifiques définies, entre autres, dans l’appendice A des Principes régissant les travaux du GIEC (« Procédures à suivre pour l’élaboration, l’examen, l’acceptation, l’adoption, l’approbation et la publication des rapports du GIEC »). Celui-ci précise les critères retenus pour garantir la qualité du contenu et de la forme des rapports du GIEC : une diversité d’auteurs (scientifiques et gouvernements), un processus d’évaluation à plusieurs niveaux et un langage équilibré. Ces procédures de gouvernance et de rédaction cherchent à assurer la légitimité du GIEC auprès de son audience et à fonder la décision politique sur un consensus scientifique.