Nelson Mandela fue encarcelado en la prisión de Robben Island, donde permaneció durante dieciocho de sus veintisiete años de presidio. Mientras estuvo en la cárcel, su reputación creció y llegó a ser conocido como el líder negro más importante en Sudáfrica. En prisión, él y otros realizaban trabajos forzados en una cantera de cal. Las condiciones de reclusión eran muy rigurosas. Los prisioneros fueron segregados por raza y los negros recibían menos raciones. Los presos políticos eran separados de los delincuentes comunes y tenían menos privilegios. Mandela, como prisionero del grupo más bajo de la clasificación, sólo tenía permitido recibir una visita y una carta cada seis meses. Las cartas, si llegaban, eran a menudo retrasadas durante largos períodos y leídas por los censores de la prisión.
Mientras estuvo en la cárcel Mandela estudió por correspondencia a través del programa externo de la Universidad de Londres, obteniendo el grado de Licenciado en Derecho. Fue nombrado para el cargo de Rector de la Universidad de Londres en las elecciones de 1981, pero ganó la Princesa Anne.
Uno de los aspectos menos conocidos de su cautiverio fue la falsa operación de fuga que el servicio secreto Sudafricano preparó en 1969. El verdadero objetivo era asesinar a Mandela bajo la apariencia de una recaptura. Pero el Servicio de Inteligencia Británico tuvo conocimiento del complot y frustró toda la operación. El agente secreto inglés Gordon Winter lo narra en su libro de memorias "Inside Boss", publicado en 1981.
En marzo de 1982 Mandela fue transferido de la isla de Robben a la prisión de Pollsmoor, junto con otros altos dirigentes del ANC: Walter Sisulu, Andrew Mlangeni, Ahmed Kathrada y Raymond Mhlaba. Se ha especulado que se trataba de eliminar la influencia de estos líderes en la nueva generación de jóvenes activistas negros encarcelados en Robben Island.[cita requerida] Sin embargo, el Partido Nacional, por medio del ministro Kobie Coetsee, dijo que la medida era para permitir un contacto discreto entre ellos y el Gobierno sudafricano. En febrero de 1985 el Presidente Botha ofreció la liberación condicional de Mandela a cambio de renunciar a la lucha armada. Coetsee y otros ministros habían desaconsejado a Botha que tomara esta decisión, argumentando que Mandela nunca comprometería a su organización a abandonar la lucha armada a cambio de la libertad personal. Mandela rechazó de hecho la oferta, haciendo un comunicado a través de su hija Zindzi diciendo: "¿Qué libertad se me ofrece, mientras sigue prohibida la organización de la gente? Sólo los hombres libres pueden negociar. Un preso no puede entrar en los contratos."
La primera reunión entre Mandela y el Partido Nacional llegó en noviembre de 1985, cuando se reunió Kobie Coetsee Mandela en el Volks Hospital en Ciudad del Cabo, donde Mandela se estaba recuperando de una cirugía de próstata. Durante los próximos cuatro años, tuvieron lugar una serie de reuniones que sentaron las bases para futuros contactos y negociaciones, pero se hicieron pocos avances reales.
En 1988 Mandela fue trasladado a la prisión Víctor Verster, permaneciendo allí hasta su liberación. Diversas restricciones fueron levantadas y la gente como Harry Schwarz pudieron visitarlo. Schwarz, un amigo de Mandela, lo conocía desde la universidad cuando fueron compañeros de clase. También fue un abogado defensor en el juicio de Rivonia y más tarde será embajador de Sudáfrica en Washington.
A lo largo del encarcelamiento de Mandela, las presiones locales e internacionales sobre el gobierno de Sudáfrica para dejar a Mandela en libertad, eran notorias y en 1989, Sudáfrica llegó a una encrucijada cuando el Presidente Botha sufrió un derrame cerebral y fue sustituido por Frederik Willem de Klerk. De Klerk anunció la liberación de Mandela en febrero de 1990.