เขาคือกุญแจสำคัญในยุคทองของสโมสร โจ ฮาร์ท คว้ารางวัลส่วนบุคคลมากมายและร่วมกับทีมในขณะที่อยู่ที่เอทิฮัด สเตเดี้ยมมาเป็นเวลาสิบปี
ไม่มีผู้รักษาประตูคนใดที่จะคว้าโกลเด้น โกลฟในพรีเมียร์ ลีก มากเท่ากับโจ ที่กวาดไปสี่ครั้ง แล้วยังติดผังทีมดีเด่นแห่งปีในพรีเมียร์ ลีก สองครั้ง รวมทั้งยังเก็บคลีนชีทให้กับเรือใบสีฟ้ามากมาย
เขาย้ายมาจากชริว์เบอรี่ในช่วงวันรุ่นเมื่อปี 2006 ด้วยค่าตัวตามรายงานข่าวที่ค่อนข้างต่ำเป็นเงิน 600,000 ปอนด์
หลังจากประเดิมสนามในนัดที่ไม่มีฝ่ายใดทำประตูได้ปะทะเชฟฟิลว์ ยูไนเต็ด โจก็ไดถูกแบล็คพูลยืมตัวไปหนึ่งฤดูกาลแล้วย้ายไปแทรนเมียร์ โรเวอร์ ที่ทำให้เขาได้ประสบการณ์ในการลงเล่นชุดใหญ้ก่อนที่จะหวนกลับมายังสโมสรและก้าวขึ้นมาเป็นชุดใหญ่เต็มตัว
ในตอนนี้มีการแข่งขันกันสูงที่ซิตี้ โจจะต้องแย่งที่ยืนกับผู้รักษาประตูทีมชาติสวีเดน แอนเดส อิซักซันและแคสเปอร์ ชไมเคิล แต่นายทวารวัยรุ่นก็ได้โชว์ให้เห็นถึงศักยภาพด้วยการเล่น 32 นัด และติดทีมชาติร่วมทัพสเวน โกรัน อิริคสัน
ต่อจากนั้นเขาลงเล่นอีก 33 นัดในฤดูกาล 2008/09 โจถูกยืมตัวไปอีกครั้งที่เบอร์มิงแฮม ซิตี้ และได้รับการโหวตให้เป็นนายทวารที่ดีที่สุดของพรีเมียร์ ลีก หลังจากวาดลวดลาย 36 เกม
ฮาร์ทยังอยู่ต่ออีกหนึ่งปีจนกระทั่งโรแบร์โต้ มันชินี่ ได้เรียกตัวเข้ากลับมาในฤดูกาล 2010/11 และดันให้เขาเป็นนายทวารเบอร์หนึ่ง โดยเขาได้คว้าแชมป์เอฟเอ คัพ ในซีซั่นนั้น
นับแต่นั้นโจ ฮาร์ท ไม่เคยหันหลังกลับ เขายังได้เป็นนายทวารเบอร์หนึ่งของอังกฤษในสามทัวร์นาเมนต์สำคัญๆ และได้คว้าถ้วยพรีเมียร์ ลีก และแคปปิตัล วัน คัพ สองครั้ง นอกจากนี้คว้ารางวัลที่เก็บคลีนชีทได้มากสุดในลีกด้วย
โมเมนต์ที่ไม่มีใครลืมเลือนและได้ถูกจารึกไว้ในประวัติศาสตร์ซิตี้ก็คือ การเซฟจุดโทษของลีโอเนล เมซซี่และซลาตัน อิบราฮิโมวิค ในแชมป์เปี้ยน ลีก ฮาร์ทมีความสุขที่ได้มีโมเมนต์ที่ดีที่สุดในยูฟา แชมปืเปี้ยน ลีก และได้รับผิดงานในพรีเมียร์ ลีก ด้วย
เขาเป็นที่รักของเพื่อนร่วมทีมในห้องแต่งตัวและเป็นขวัญใจแฟนๆ ที่ได้ซาบซึ้งในสิ่งดีๆ ที่เขาทำให้ซิตี้ทั้งตัวและหัวใจ
ต่อจากนี้ฮาร์ทจะไปอยู่ที่ตูริน (อิตาลี) และลงเล่นในซีรีย์ เอ ร่วมทัพโตรินโน ในฤดูกาล 2016/17
สโมสรและแฟนๆ ขอขอบคุณโจ ฮาร์ท และขออวยพรให้เขาโชคดี