Род Телеманов происходил из образованных магдебургских семей из области Нордхаузен, недалеко от Эрфурта; дед композитора был викарием в Кохштедте. Отец, Генрих Телеман, посещал школу в Хальберштадте и Кведлинбурге, учился в университете Хельмштедта с 1664 года, позже в 1668 году был назначен приходским священником в Хакеборне, прежде чем стать диаконом в церкви Св. Духа в Магдебурге в 1676 году. В 1669 году он женился на Йоханне Марии Хальтмайер, дочери протестантского священника из Регенсбурга, который, покинув пост диакона во Фрайштадте, недалеко от Линца, стал приходским священником недалеко от Магдебурга в 1625 году. Телеман утверждал, что он унаследовал свой музыкальный талант от матери.

Из шести детей от этого брака зрелости достигли только младший сын, Георг Филипп, родившийся 14 марта 1681 года, и рождённый в 1672 году Генрих Маттиас Телеман. 

Позже Георг Филипп посещал гимназию старого города и школу городского собора, где преподавали латынь, риторику, диалектику и немецкую поэзию. Особенно хорошо юный Телеман проявил себя в латыни и греческом. О его высоком уровне грамотности свидетельствует, тот факт, что он писал стихи на немецком, французском и латинском языках. В Магдебурге он принимал участие в музыкальных представлениях, учился играть на скрипке, флейте, клавесине. Его замечательный музыкальный талант начал проявляться с десяти лет, когда он пробовал впервые сочинять под руководством одного из первых учителей — Бенедикта Кристиани, кантора местной церкви, который занимался с ним пением.

В двенадцать лет Телеман сочинил свою первую оперу «Сигизмунд» (Sigismundus) на либретто Кристиана Генриха Постеля. Однако для того, чтобы отговорить Георга Филиппа от музыкальной карьеры, его мать  и родственники по окончании городской школы забрала все его инструменты и запретила заниматься музыкой. В этот небольшой период мальчик продолжал тайно писать пьесы по ночам, а также музицировать на заимствованных инструментах в уединённых местах.

С ранних лет успех в его работе сопровождался преодолением препятствий. Само занятие музыкой, выбор ее своей профессией поначалу натолкнулось на сопротивление матери. Будучи в целом широко образованным человеком (он учился в Лейпцигском университете), Телеман, однако, не получил систематического музыкального образования. Но это с лихвой компенсировалось той жаждой знаний и способностью к их творческому усвоению, которыми была отмечена его жизнь вплоть до глубокой старости. 

Дабы окончательно оградить сына от музыки, в конце 1693-го, или начале 1694-го года Мария отправляет Георга Филиппа в школу недалеко от Целлерфельда. Вероятно, она не знала, что новый местный смотритель Телемана в гуманитарных и землемерных науках, Каспар Кальвер (богослов, историк, математик и писатель) также серьёзно занимался музыкой. Он призвал Телемана возобновить музыкальные занятия, но учёбой не пренебрегать. 
 
Во время многочисленных визитов в Ганновер и Брауншвейг, крупных княжеских резиденциях, имевших образцовые по тому времени оперные театры и капеллы, Телеман знакомится с новейшим «театральным» стилем французской и итальянской музыки, а также итальянской вокальной музыкой (Корелли, Кальдара, Стеффани). Он также ознакомился с характеристиками различных инструментов; в дополнение к блокфлейте, скрипке и клавишным инструментам, теперь он освоил игру на флейте, гобое, шалюмо, виоле да гамба, контрабасе и тромбоне.

В 1701 году Телеман закончил своё школьное образование, ненадолго вернулся в родной город, и вскоре поступил под давлением матери в Лейпцигский университет. Вероятно, выбор Лейпцига, важного тогда центра современной музыки, не был случайным. По пути в Лейпциг в Галле Телеман встретил шестнадцатилетнего Георга Фридриха Генделя. Они подружились, и этой дружбе суждено было длиться всю жизнь. 

В Лейпциге один из его псалмов был исполнен в церкви Св. Фомы (Томаскирхе). Произведение так понравилось, что присутствовавший на богослужении обер-бургомистр Лейпцига вызвал к себе автора и официально предложил ему готовить по 2 кантаты в месяц для этой церкви. Этот неожиданный поворот судьбы оказался решающим; отныне Телеман окончательно решает посвятить себя музыке. Всего через год после поступления в университет он основал для 40 студентов-музыкантов любительский оркестр (Collegium musicum). В период 1729—1739 этим коллективом руководил Иоганн Себастьян Бах.

В 1704-06 работал капельмейстером при дворе в Зорау, а с 1708 года стал капельмейстером у князя Иоганна Вильгельма Саксен-Эйзенахского. В Эйзенахе Телеман предположительно встретился с И. С. Бахом, двоюродный брат которого Бернард был городским органистом и придворным клавесинистом; 8 марта 1714 года Телеман стал крестным отцом Карла Филиппа Эмануэля Баха. Вскоре после того, как в 1709 году он был назван секретарём и капельмейстером двора, Телеману был предоставлен отпуск, и 13 октября он вернулся в Зорау для женитьбы на Амалии Луизе Джулиане Эберлин, фрейлине графини Промнитц и дочери композитора Даниеля Эберлина; она умерла 15 месяцев спустя, в январе 1711 года после рождения дочери.

С 1712 года был  назначен музыкальным руководителем и дирижёром двух церквей (Барфюссеркирхе и Церкви Св. Катарины) во Франкфурте-на-Майне. 28 августа 1714 Телеман женился на шестнадцатилетней Марии Катарине Текстор, дочери служащего Франкфуртского совета; в браке родились восемь сыновей и одна дочь, никто из них не стал музыкантом. Этот брак позволил Телеману стать гражданином Франкфурта. 

В 1716 году Телеман получил предложение стать капельмейстером г. Гота. Переговоры продолжались в течение 1717 г., к тому же он получил предложение стать капельмейстером всех дворов по Эрнестинской линии Саксонских Герцогств от Вильгельма Эрнста Саксен-Веймарского. В конце концов, однако, он остался во Франкфурте и использовал предложение Гота, чтобы получить повышение заработной платы, которую он использовал, чтобы привлечь дополнительных церковных музыкантов. В его письме в городской совет отмечается, что из-за нехватки музыкантов ему пришлось петь и играть на различных инструментах во время богослужения.

10 июля 1721 Телеман получил предложение от Ганзейского города-государства Гамбурга стать кантором в гимназии Св. Иоанна и музыкальным директором пяти главных церквей города. В Гамбурге Телеман начинает наиболее продуктивную фазу своей карьеры. С его первых лет в Гамбурге, Телеман принимал активное участие в жизни городской богатой интеллигенции. Многие ведущие писатели Гамбурга предоставляли тексты для его вокальных сочинений, и эти контакты могли активизировать его собственные литературные амбиции.  Между 1723 и 1738 восемь телемановских стихов и текстов для вокальной музыки были опубликованы в гамбургской антологии поэзии Северной Германии — «Поэзия Нижней Саксонии» С. Ф. Вайцмана.

К началу 1720-х гг. второй брак Телемана, судя по всему, стал разрушаться, так как в гамбургской пьесе марионеток (1724), высмеивавшей Телемана, Брокеса и либреттиста Иоганна Кристиана Вайцманна, есть ссылка на роман Марии Катарины со шведским офицером. Вскоре после этого распространились слухи о её больших карточных долгах, которые в итоге составили значительную сумму 4400 «имперских талеров» (что сильно превышало годовой доход Телемана). В погашении этих долгов Телеману помогали друзья в Гамбурге. Брак, по-видимому, распался в 1736 году, когда Телеман сообщил своему деловому партнёру Й. Р. Холландеру, что Мария Катарина покинула свой дом. Возможно, она отправилась напрямую во франкфуртский монастырь, где умерла в 1775 году.

В 1725 г. Телеман приступил к реализации амбициозной программы публикации собственной музыки. В течение следующих 15 лет он издал 44 публикации (не считая переизданий), все, кроме одной, под собственным лейблом. Телеман сам гравировал пластины.  В конце сентября или начале октября 1737 Телеман воспользовался давним предложением от нескольких парижских музыкантов посетить их город, где оставался до конца мая 1738.

14 октября 1740 он предложил для продажи гравированные пластины для 44 его публикаций. Биография 1744 г. утверждает, что этот шаг был мотивирован желанием Телемана посвятить оставшиеся годы написанию теоретических трактатов. Действительно, он, по-видимому, задумал выход на пенсию: хотя продолжал выполнять свои должностные обязанности в Гамбурге, его музыкальная продукция резко упала между 1740 и 1755 гг.. Сравнительно мало церковной музыки породит этот период помимо двух годовых циклов кантат, опубликованных в 1744 и 1748—1749 гг., и несколько инструментальных произведений, написанных после Парижской поездки. Телеман взялся за популярное в Гамбурге занятие садоводством, запрашивая и получая редкие растения от различных друзей, включая Генделя и Пизенделя. Но он также всегда старался быть в курсе последних музыкальных новинок.

 Телеман умер в своей квартире от «грудного недуга» вечером 25 июня 1767 года. Он был похоронен 29 июня на несохранившемся кладбище монастыря Св. Иоанна, где в настоящее время разбита Ратушная площадь. Перед ратушей в память о композиторе установлена мемориальная плита.

Удивительна его творческая и деловая активность: композитор, о котором говорят, что он создал столько произведений, сколько Бах и Гендель вместе взятые, Телеман известен также как поэт, талантливый организатор, создавший и руководивший оркестрами в Лейпциге, Франкфурте-на-Майне, содействовавший открытию первого в Германии публичного концертного зала, основавший один из первых немецких музыкальных журналов. Это далеко не полный перечень видов деятельности, в которых он преуспел. В этом жизненном тонусе и деловой хватке Телеман — человек века Просвещения, эпохи Вольтера и Бомарше.Внимание Телемана к чужим национальным стилям не ограничивалось наиболее ценимыми тогда итальянским и французским. Услышав в годы Капельмейстерства в Силезии польский фольклор, он восхитился его «варварской красотой» и написал ряд «польских» сочинений. В возрасте 80-84 лет он создал одни из лучших своих произведений, поражающие смелостью и новизной. Наверное, не было сколько-нибудь существенной области творчества того времени, мимо которой бы прошел Телеман. При этом в каждой он основательно поработал. Так, его перу принадлежат более 40 опер, 44 оратории (пассивны), свыше 20 годовых циклов духовных кантат, более 700 песен, около 600 оркестровых сюит, множество фуг и различной камерно-инструментальной музыки. К сожалению, значительная часть этого наследия сейчас утеряна.