Różne formy piłki ręcznej znane były już starożytności. Nawet w "Odysei" Homera można znaleźć opis gry, przypominającej nieco dzisiejszego szczypiorniaka.

Grę nazywaną "harpaston", podobną do tego sportu, uprawiali mieszkańcy Rzymu, a w II wieku naszej ery opisywał ją lekarz rzymski, Klaudiusz Galenus. W średniowieczu o grze "gdzie trzeba chwytać piłkę rękoma" pisał poeta niemiecki Walther von der Vogelweide, zaś w XVI wieku we Francji Francois Rabelais opisywał zabawę przypominającą dzisiejszą piłkę ręczną. 

Ojcem współczesnej piłki ręcznej jest Duńczyk Nielsen Holger. W 1898 roku w jednej ze szkół stworzył nowy sport, który nazwał "haandboll". On też ustanowił jego główne zasady. Gra odbywała się na boisku z dwiema bramkami, zaś piłkę można było dotykać wyłącznie rękoma. W 1910 roku w Szwecji odbyły się pierwsze mistrzostwa tego kraju w piłce ręcznej. 

Ta gra zespołowa była wzorowana na piłce nożnej. Początkowo, odpowiednio do potrzeb, jedynie modyfikowano futbolowe reguły. Gra odbywała się na otwartym terenie, a drużyny liczyły po 11 graczy. W takim kształcie piłka ręczna zadebiutowała na igrzyskach olimpijskich w Berlinie w 1936 roku. W turnieju tym wzięło wtedy udział zaledwie sześć zespołów. 

Po wojnie piłka ręczna w wydaniu 11-osobowym straciła na popularności, rozwijać się natomiast poczęła jej inna odmiana - w drużynach grało siedmiu zawodników, zaś mecze odbywały się w hali. 

Właśnie taki handball pojawił się ponownie na igrzyskach - w 1972 roku w Monachium. Do rywalizacji stanęło wówczas 16 męskich zespołów z całego świata. Kobiety włączyły się do olimpijskich rozgrywek cztery lata później w Montrealu (wystąpiło wówczas sześć żeńskich ekip). 

W 1976 roku Polacy w Montrealu wywalczyli jedyny medal - brązowy. Pięć lat temu w Rio de Janeiro przegrali decydujące spotkanie o podium i zakończyli rywalizację na czwartej pozycji.