Pierwowzorem Parlamentu Europejskiego w obecnej postaci było Zgromadzenie Europejskiej Wspólnoty Węgla i Stali. Traktat o ustanowieniu Europejskiej Wspólnoty Węgla i Stali określił potrzebę powstania organu składającego się z reprezentantów narodów państw zjednoczonych we Wspólnotach Europejskich.
Wspólne Zgromadzenie stało się organem wspólnym dla Europejskiej Wspólnoty Węgla i Stali, Euratomu i Wspólnoty Europejskiej w oparciu o postanowienia Konwencji w sprawie niektórych instytucji wspólnych dla Wspólnot Europejskich z dnia 25 marca 1957 roku, ustanawiającej wspólne Zgromadzenie i Trybunał Sprawiedliwości. Od 1958 roku Zgromadzenie to przyjęło nową nazwę – Europejskie Zgromadzenie Parlamentarne, którą z kolei 30 marca 1962 roku przemianowano na Parlament Europejski.
Początkowo euro deputowanych wybierały parlamenty poszczególnych państw UE.
Na wczesnym etapie swej działalności Parlament Europejski pełnił funkcję organu konsultacyjnego, który nie posiadał jednak realnej władzy. Po implementacji Traktatu w Maastricht oraz Traktatu Amsterdamskiego Parlament Europejski z czasem uzyskiwał kolejne uprawnienia, przede wszystkim kosztem Rady.