La scultura si compone di due figure fuse in un’unica entità: Gesù, esanime, in posizione quasi eretta e la madre Maria, in piedi dietro di lui, a sorreggerlo, in una posa estranea alla classica iconografia della Pietà. Dalle poche notizie arrivate a noi sull’ultima Pietà si è ipotizzato che Michelangelo avesse cominciato a sbozzare il marmo tra il 1553 e il 1555. Nel 1553, infatti, nella biografia sull’artista di Ascanio Condivi la Pietà non è menzionata, mentre nel 1555 Vasari racconta che Michelangelo, dopo aver ridotto a frammenti la Pietà Bandini, avrebbe ripreso a scalpellare su un pezzo di marmo in cui aveva “già abbozzato un’altra Pietà, varia da quella, molto minore”, identificata oggi dagli studiosi con la Pietà Rondanini.L’artista negli ultimi dieci anni della sua vita lavorò a questo gruppo scultoreo a più riprese, con continui ripensamenti e cambiandone in corso d’opera l’impostazione. Mutò le proporzioni del corpo di Cristo, di cui smagrì busto e gambe, abbassò e assottigliò la testa, inizialmente pensata più in alto e più vicina a quella della Madre, il cui capo, invece, era volto verso destra, per chi guarda, e divergente. Impostò diversamente anche le braccia di Gesù, appoggiate e fuse al corpo della Madonna.
Della prima versione della Pietà sono rimasti ancora oggi visibili il braccio destro di Cristo rotto fino al gomito, che l’artista probabilmente avrebbe in seguito eliminato, le gambe, che aveva però già iniziato ad assottigliare, la parte posteriore della Vergine, di cui prima di morire non aveva ancora affrontato l’assottigliamento per riequilibrare l’intera composizione.
La morte dell’artista ne impedì il completamento, ma non è escluso che lo stesso Michelangelo avesse voluto fermarsi a questo stadio del lavoro. Due lettere dell’allievo Daniele da Volterra, indirizzate a Giorgio Vasari e al nipote Leonardo Buonarroti nei mesi successivi alla morte di Michelangelo, raccontano che l’artista continuò instancabile a scalpellare quest’opera, voluta solamente per se stesso e considerata il suo testamento, fino a pochi giorni prima di morire, all’età di ottantanove anni.