Košarka se pojavila u olimpijskom programu na posljednjem predratnom forumu - 1936. u Berlinu. Na njemu su učestvovale 23 ekipe, što je košarkaški turnir učinilo najreprezentativnijim među timskim sportovima na XI Ljetnim igrama. Prvo zlato u ovom sportu pripalo je američkoj ekipi, drugi su bili Kanađani, a treći Meksikanci.
Amerikanci su nastavili dominirati ovim sportom - od desetak turnira na kojima je učestvovala ekipa ove zemlje, prvenstvo su izgubili samo na tri. Dva puta na vrhu crte reprezentacija SSSR-a mogla je jednom biti reprezentacija Argentine. Na Olimpijskim igrama 1980. Amerikanci nisu učestvovali, a onda je zlato pripalo jugoslovenskim košarkašima. Na račun sovjetskih timova, osim dvije zlatne nagrade, postoje četiri srebrne i tri bronzane - ovo je druga linija u objedinjenoj ocjeni postignuća muških košarkaša.
Ženska košarka dodata je u program Ljetnih igara deset olimpijskih ciklusa kasnije, prije XXI Olimpijskih igara koje su se održale u Atlanti 1976. godine. Prvi turnir osvojili su košarkaši Sovjetskog Saveza, kao i sljedeći, koji se održao bez učešća Amerikanaca. Još jednom, na Letnjim igrama u Barseloni 1992. godine, tim sastavljen od igrača iz bivših republika SSSR-a istakao se u košarkaškim takmičenjima. Na svim ostalim ženskim olimpijskim turnirima, a ima ih već šest, pobijedile su samo reprezentacije Sjedinjenih Država.
Tokom perioda kada je djelovala kao neovisna država, muške košarkaške reprezentacije u Rusiji nikada nisu mogle osvojiti olimpijske medalje. Žene imaju najbolje rezultate - na posljednja dva ljetna sportska foruma osvajale su bronzane medalje.
Prema važećim propisima, profesionalni košarkaši imaju pravo sudjelovanja na olimpijskim košarkaškim turnirima. Izbor timova kojima je dozvoljeno da počnu u njemu vrši se prema unaprijed određenoj šemi, u kojoj se u kvalifikacionim takmičenjima otkrivaju samo tri mjesta. Ostatak je raspoređen među šampionima Afrike, Amerike (2 ekipe), Azije, Evrope (2 ekipe) i Okeanije. Još jedno mjesto dodjeljuje se aktuelnom svjetskom prvaku i reprezentaciji zemlje domaćina Olimpijade.
