Fred Bertelmann wuchs auf in Duisburg-Meiderich als Sohn von Elisabeth und Jules Bertelmann, der bei der Ruhrchemie beschäftigt war. Mit der Musik kam Fred Bertelmann zunächst in seiner Schulzeit als Chorknabe in Berührung; später ging er als Sängerknabe mit dem Kirchenchor von St. Lorenz auf Konzerttournee. Zu dieser Zeit wollte er eigentlich Kinderarzt werden, er hatte sogar mit dem Studium dazu begonnen, doch dann siegte der Hang zur Musik, und er studierte Cello, Violine, Trompete bei Prof. Gruberbauer in Nürnberg. Gleichzeitig vertiefte er sein Wissen über den Gesang bei dem Heldenbariton des Nürnberger Opernhauses, Johnny Born. Zusätzlich absolvierte er eine Ausbildung zum Schauspieler und Sänger am Konservatorium Nürnberg und an der UFA-Schauspielschule. Im Zweiten Weltkrieg geriet er 1944 als Wehrmachtssoldat an der Westfront in US-amerikanische Kriegsgefangenschaft. Bertelmann kam in ein Camp im Bundesstaat Alabama, wo er mit dem amerikanischen Swing in Berührung kam und ein 14-Mann Orchester gegründet wurde. Nach seiner Entlassung am 6. Mai 1946 begab er sich nach Füssen, um bei einem Club der US-Armee im Orchester zu spielen. 1947 traf er in Landsberg am Lech Ernst Mosch und Horst Reipsch. Die drei gründeten eine eigene Swing-Band, mit der sie durch US-amerikanische Clubs tingelten. Diese Auftritte führten zu einer Einladung nach München zu Radio München, später in Bayerischer Rundfunk umbenannt.

1950 war Bertelmann als Musiker bereits so bekannt, dass er vom Orchesterchef Arne Hülphers nach Schweden engagiert wurde und bei Konzerten mit Zarah Leander, der späteren Frau von Hülphers, mitwirken durfte. 1952 fiel er in Travemünde dem Manager Stefan von Baranski auf, der ihn mit Michael Jary bekannt machte, welcher beim Start ins Schallplattenwesen behilflich sein wollte. Hier traf er auch seinen späteren Produzenten Nils Nobach. In Hamburg war er beim Start des deutschen Fernsehens (vom NWDR) in der Sendung Klingendes Rendezvous dabei. Dort traf er Bibi Johns, mit der er später einige Plattenaufnahmen im Duett sang. Von Hamburg zog er wieder nach Nürnberg, wo er weiter Gesang studierte. Baranski erreichte nun, dass Bertelmann mit der Schallplattenfirma Tempo seine erste Platte aufnehmen konnte, Wenn es Nacht wird in Montana.

1954 schloss die Plattenfirma Electrola mit ihm einen Plattenvertrag ab. Im Oktober 1955 wurde er mit dem Titel Tina Marie in der deutschen Schlagerparade ganz vorne notiert. Dieser Erfolg hielt bis in die Mitte der 1960er Jahre an.

Im Jahre 1957 kam Fred Bertelmann mit dem Titel Der lachende Vagabund – einer Coverversion von Jim Lowes US-Hit Gambler’s Guitar – in die deutschen Hitparaden. Der Texter Peter Moesser hatte es auf einer Italienreise in der italienischen Fassung gehört und bei Electrola wollte man ihn als Interpreten. Am 9. Juli 1957 wurde es in Köln eingespielt. Dieses Lied passte in die Stimmung des deutschen Wirtschaftswunders und am 1. Mai 1958 war die Single eine Million Mal verkauft worden. Insgesamt wurde der Titel 3,5 Millionen mal verkauft, auch in den USA.

1958 trat er in der deutschen Vorentscheidung zum Eurovision Song Contest an. Beim deutschen Vorentscheid 1964 sang er das Lied Das macht dein Lächeln, Mona Lisa. Auch die Filmbranche kam auf den erfolgreichen Sänger zu. Er wirkte in sechzehn Filmen mit. 1958 hatte der Film Der lachende Vagabund in Stuttgart und Duisburg Premiere, ein Ereignis, bei dem die Kinder in Duisburg schulfrei hatten. Da er auch schauspielerische Fähigkeiten hatte, spielte er später auch klassisches Theater (u. a. Götz von Berlichingen oder Der Widerspenstigen Zähmung) und übernahm Rollen in Musicals.

Stationen seiner Karriere waren auch die Auftritte in US-amerikanischen Fernsehshows wie der von Ed Sullivan, in der Dean-Martin- und der Perry-Como-Show. 1961 wirkte er in Chicago im Musical Show-Boat mit. In Europa trat er zusammen mit Marika Rökk, Gerhard Wendland, Vico Torriani, Hans-Joachim Kulenkampff, Bibi Johns und Caterina Valente auf. 1961 wechselte Bertelmann von der Electrola zu Polydor.

Zur Nachwuchs- und Talentförderung gründete er im Olympiajahr 1972 in München die erste Show-Schule Deutschlands zusammen mit der ehemaligen Schlagersängerin Gitta Lind, die Direktorin für die Ausbildung werden sollte und zu dieser Zeit eine Schnellreinigung unterhielt, mit einem gemeinsamen Startkapital von umgerechnet 50.000 Euro.

2005 und 2006 trat er an der Bayerischen Staatsoper im Rahmen der Münchner Opernfestspiele als Aeneas auf der Bühne des Prinzregententheaters in der Festspielproduktion Dido&Aeneas – die Barockoper von ihren Liebhabern entblößt (nach Henry Purcell) von und mit Andreas Ammer und Sebastian Hess auf.

Fred Bertelmann war seit 1966 mit der früheren Fernsehansagerin und Filmschauspielerin Ruth Kappelsberger verheiratet und wohnte in Berg am Starnberger See, wo er am 22. Januar 2014 verstarb.