La historia comienza con el antiguo comandante de la flota de naves Particular Justice siendo juzgado por los Profetas líderes del Covenant en la ciudad flotante sagrada Suma Caridad por su incompetencia y su incapacidad de proteger la Instalación 04 "Alpha Halo" de su destrucción a manos del Jefe Maestro ( Conocido como Demonio para el "Covenant") en Halo: Combat Evolved lo que termina en su exilio del Covenant y castigado con el sello de la vergüenza el cual se le es aplicado por Tartarus el líder de los brutes los cuales pretenden desplazar a todos los elites. Mientras tanto el Jefe Maestro y el Sargento Johnson de nuevo en la tierra reciben condecoraciones por el almirante naval Lord Hood en la estación espacial de la UNSC Cairo por la valentía de ambos en Halo mientras que Miranda Keyes, la hija del almirante Jacob Keyes que fue asesinado por los Flood recibe una medalla póstuma por el valor y sacrificio de este. Son interrumpidos por Cortana que les dice que una gran formación de naves del Covenant han encontrado la tierra y se acercan a esta. El Jefe llega a la ciudad de Nueva Mombasa en África donde la protege de los numerosos soldados del Covenant lo suficiente como para seguir a un crucero cargando al Profeta del Pesar a través de un viaje al hiperespacio.
Los ojos cambian a los del desgraciado élite que es convertido súbitamente en un guerrero santo del Covenant, El Inquisidor por los Profetas quienes le dicen que su primera misión es destruir una alianza hereje conformada por élites y grunts liderada por un élites renegado que se han separado formalmente del Covenant y se han atrincherado en una mina de gas Forerunner en el planeta Threshold. El lo consigue exitosamente matando al líder de estos y se encuentra con el monitor de Halo, 343 Guilty Spark quien también estaba ahí.
En un rincón lejano de la galaxia, la nave In Amber Clad capitaneada por Miranda Keyes pasa por el agujero de gusano por hiperespacio siguiendo al Profeta del Pesar, y descubren un segundo anillo "Delta Halo". Al aterrizar ahí el Jefe debe matar al Sumo Profeta del Pesar que tiene planes de activar el anillo. El lo consigue pero una numerosa flota de del Covenant y Gran Caridad llegan también a Delta Halo, atacando al Jefe Maestro que cae a los profundos océanos del anillo semimuerto.
En Gran Caridad después de la muerte del Sumo Profeta del Pesar, por una orden de los Profetas restantes, Verdad y Piedad, a los élites se les ha despojado su título de guardias de honor y en cambio este se le ha dado a los brutes, una nueva adición militar de razas alienígenas al Covenant y al Inquisidor se le asigna su próximo trabajo, entrar en la biblioteca Forerunner de Delta Halo y conseguir el Índice para poder activar la instalación y comenzar lo que los Profetas llaman "El Gran Viaje". Él fácilmente derrota a Johnson y a Miranda quienes también habían entrado en esta para conseguirlo, pero es traicionado por el caudillo brute Tartarus, quien se apodera del Índice y con un poderoso impacto gravitatorio de su martillo "el Puño de Rukt" lanza al élite a las profundidades de la biblioteca.
El Jefe Maestro (con Cortana en su armadura) y el Inquisidor despiertan (ambos víctimas de las acciones de los Profetas) prisioneros de una entidad inteligente Flood llamada "La Gravemind" quienes hablándoles (mediante las opiniones del monitor de Delta Halo "2401 Penitent Tangent" y el reanimado cadáver del Profeta del Pesar a quienes ambos habían capturado) les dice que deben detener a los Profetas y a los brutes de activar Halo y los teletransporta a distintas partes. Al Jefe lo envía a Gran Caridad a detener a los Profetas, que pensaban huir de esta y se encuentra en medio de una guerra civil entre las especies del Covenant, élites , grunts y hunters contra los brutes, jackals y drones. Eventualmente Cortana es insertada en las redes de Gran Caridad y la In Amber Clad tomada por los Flood se estrella en la ciudadela lo que termina con estos tomándola, con la muerte del Profeta Piedad, y con Verdad quedando como el único Profeta vivo huyendo hacia la misteriosa nave Forerunner en el centro de la ciudad. El Jefe Maestro se infiltra en esta a medida que despega y deja a Cortana detrás.
El juego concluye con las misiones del Inquisidor que con la ayuda del comandante de fuerzas especiales Rtas Vadumee y sus élites ,(y formando una inesperada alianza con los humanos) mata a Tartarus (quien tenia prisioneros al sargento Johnson, a Miranda Keyes y a 343 Guilty Spark) antes de que pudiese activar Delta Halo con el índice. Sin embargo antes el pudo poner este y los demás anillos esparcidos por las galaxias en un estado de activación remota. 343 les dice que todos los anillos restantes pueden ser disparados desde el "Arca". En la tierra, la nave Forerunner ha llegado con un enorme ejército del Covenant y el Jefe esta de polizón en esta con la intención de "terminar esta lucha" como le dice a Lord Hood y a las demás fuerzas militares del UNSC.
Después de los créditos se muestra a Gravemind, que también ha llegado a Gran Caridad y tiene muchas preguntas sobre su origen y el de los anillos, por lo que cuestiona a Cortana que solo le responde "Bien, dispara", dejando una mirada previa a Halo 3.
