Während sein Vater die Reformation ablehnte und verfolgte, öffnete sich ihr der brandenburgische Kurprinz Joachim nach und nach. Wohl auch vermittelt durch seine Mutter, Kurfürstin Elisabeth, die seit ihrer Flucht 1528 in Kursachsen lebte und engen Kontakt zu den Wittenbergern hielt, lernte der Kurprinz die Reformation kennen und schätzen. Dabei empfand er die spätmittelalterliche Frömmigkeit, in die er als Kind und Jugendlicher hineingewachsen war, und die Reformation, die er seit etwa 1520 kennenlernte, nicht als Gegensätze. Später konnte er sagen, dass er „seinen Glauben in der Kirche gelernt“, „aber aus des Luthers Bericht und Schreiben den usum [die praktische Nutzanwendung des Glaubens] bekommen“ habe: „Nämlich das wir allein durch den Sohn Gottes, und sonst durch nichts, welcher am Kreuz für unsere Sünde genug getan hat, […] Vergebung der Sünden und das ewige Leben haben und sind heilig und gerecht durch ihn“.
Schon als Kurprinz trat er in brieflichen Kontakt mit Luther, und als Kurfürst war der Wittenberger Reformator die entscheidende theologische Autorität für Joachim II. Dabei hatte er allerdings seine Schwierigkeiten mit dem Wittenberger. Vor allem die Spannungen zwischen Luther und dem Mainzer Erzbischof Albrecht, dem Onkel Joachims, sah der brandenburgische Kurfürst mit Missfallen. Albrecht von Mainz mochte als Anhänger der Papstkirche religiös auf der anderen Seite stehen, für Joachim II. wichtiger war, dass er ein brandenburgischer Hohenzollernfürst war und dass er ihn als väterlichen Freund schätzte. Luthers Angriffe auf Albrecht verstimmten Joachim darum und ließen ihn den direkten Kontakt zu Luther vermeiden. Lieber als mit Luther verhandelte der Kurfürst mit Philipp Melanchthon, der mehrfach in Berlin zu Besuch war und direkten Einfluss auf die kirchliche Erneuerung in der Mark nahm. Entscheidend war aber der indirekte Einfluss Luthers, dessen Vorstellungen von der kirchlichen Erneuerung die brandenburgische Reformation bestimmten. Nach dem Tode Albrechts von Mainz und Luthers Mitte der 1540er Jahre entspannte sich das Verhältnis Joachims II. zum Wittenberger Reformator. Offen bekannte er sich nun zu Luthers Lehre. Auch in seiner persönlichen Frömmigkeit spielte Luther eine wichtige Rolle: Der Kurfürst ließ sich beispielsweise Lutherpredigten vorlesen.