A közelben volt egy új, sziklába vájt sírhelye. Még senkit sem temettek oda, amiből arra következtethetünk, hogy József csak nemrég költözött Arimateábóla Jeruzsálembe, és családi sírnak vette ezt a helyet (Luk 23:53; Ján 19:41). Nagylelkűségre vall, hogy a saját sírhelyébe temette el Jézust, és ezzel beteljesedett az a prófécia, hogy a Messiást „a gazdagok mellett” temetik el (Ézs 53:5, 8, 9).

Mind a négy evangélium beszámol róla, hogy miután Jézus testét levették a kínoszlopról, József finom lenvászonba göngyölte, és a sírjába fektette (Máté 27:59–61; Márk 15:46, 47; Luk 23:53, 55; Ján 19:38–40). Egyedül Nikodémuszt említik meg konkrétan, mint aki segített Józsefnek: ő hozta a temetéskor használatos fűszereket. De mivel mindketten fontos pozícióban voltak, nem valószínű, hogy ők maguk végezték a temetést. Feltehetően a szolgáik vitték és temették el a holttestet. Még ha így is volt, az biztos, hogy József és Nikodémusz nem mindennapi áldozatot hozott. Aki ugyanis holttestet érintett, hét napig tisztátalannak számított, és minden, amihez hozzáért, szintén tisztátalanná vált (4Móz 19:11; Agg 2:13). Ez azt jelentette volna az ő esetükben, hogy nem vehetnek részt a pászka hetéhez kapcsolódó ünnepi szokásokban (4Móz 9:6). József ezenkívül azt is kockáztatta, hogy a szanhedrin többi tagja kigúnyolja. Ám ekkor már kész volt vállalni az azzal járó következményeket, hogy méltósággal eltemeti Jézust, és a tanítványának vallja magát.