“乒乓球”一词得名于其打击时发出的“Ping Pong”声音，由英国制造商J. Jaques & Son Ltd在1901年注册为商标后，逐渐为乒乓球的正式名称。在中国以“乒乓球”此一音译作为其官方名称。其中“乒乓”二字始见于明代，是一对变体表音字，即通过轻微改变“兵”的形体来标示与之相似的读音。
乒乓球起源于19世纪末的英国。当时欧洲人热爱网球运动，但因为受到场地和天气的限制，他们将网球运动搬到室内，以餐桌作为赛场，慢慢发展出乒乓球运动。也有的说是1890年几名在印度的海军军官发觉在一张不大的台子上玩网球颇为刺激。后来改用空心的小皮球代替弹性不大的实心球，并用木板代替了网拍。最初称为“桌面网球”，也有叫“室内网球”的。
20世纪初，乒乓球运动在欧洲和亚洲蓬勃开展起来。1904年，上海一家文具店的老板王道午从日本买回10套乒乓球器材。从此，乒乓球运动传入中国。由于易于开展，适合中国人的体质，乒乓球运动很快在中国流行起来，而真正火起来，还要追溯到1959年。
1959年4月在联邦德国多特蒙德第二十五届世界乒乓球锦标赛上，中国运动员容国团的“小球路”以3：1战胜匈牙利名将悉多，为中华人民共和国夺得了第一个乒乓球男子单打世界冠军，也是中华人民共和国第一个世界冠军获得者。
当时恰逢新中国成立10周年，容国团等中国乒乓球运动员回国后受到了毛泽东主席、周恩来总理等国家领导人的接见，周总理更是把容国团夺冠和十周年国庆列为1959年的两大喜事。这个冠军对于当时的中国来说意义非凡。它极大地鼓舞了中国人民的士气，成为破除迷信、解放思想的典范：外国人能做到的，我们中国人也能做到！
1961年，国际乒联将第26届世乒赛的举办权交给了中国，这是新中国历史上首次举办国际体育赛事。中国男队击败了称霸乒坛许久的日本队，首次夺得世乒赛团体冠军。而庄则栋和邱钟惠还分别获得了男、女单打冠军。
从此，乒乓球风靡中国，被称之为“国球”。截止2019年中国乒乓球队在世界大赛中斩获的冠军总数为238个。
有人打趣地说现在的乒乓球运动就是“中国人打中国人”、“算一算加上教练，赛场上一共有6个中国人”。 随着我国改革开放的不断深入和扩大，体育交流日益频繁，特别是在上世纪70年代末期，我国的乒乓球人才过剩，许多优秀的教练员、运动员出于不同的目的到国外寻求发展，主要包括前世界冠军、国家队队员或优秀省队队员，这些运动员统称为“海外兵团”。
比如东京奥运乒乓球项目最年长的选手，58岁的倪夏莲今年五度代表卢森堡出战，出生浙江的她也曾入选过中国国家代表队。今年58岁的倪夏莲在2020年东京奥运是第五度代表卢森堡出战，出身浙江的她在内地也得到广泛关注。倪夏莲在中国接受训练，13岁被选进国家队，1983年曾出战第37届世界乒乓球锦标赛，在当时带领中国队拿下团体冠军和混合双打冠军。
但是倪夏莲面对中国国家队竞争激烈，后浪推前浪的情况下，1986年，23岁的她从中国队退役，1988年汉城奥运首次出现乒乓球项目，已经退役的倪夏莲未能代表中国队出战奥运。1989年倪夏莲定居卢森堡，2000年37岁的她代表卢森堡出战奥运，直到2021年的东京奥运，她都没有缺席。
倪夏莲的故事阐述了中国国家队竞争激烈的情况，20多岁就可能是职业生涯的终点，许多选手选择在海外另觅发展机会。如今波兰、德国等乒乓球队也有选手来自中国，显示中国在乒乓球项目的人才济济。2016年里约奥运乒乓球赛女子16强去除中国队，只有4名不是亚裔，从中国转籍刚果共和国的乒乓球选手韩杏一句“如果15、16岁没有打出来，没有突破就没有机会。”的话显示出中国乒乓球竞争激烈的情况，被广为流传。
到海外寻觅更多的机会、更长的乒乓球职业生涯，是许多选手披上其他国家战袍的原因。代表波兰出战的李倩，出生于河北的她擅长打“削球”，15岁就到了波兰，得到了波兰教练的赏识，2018李倩在欧洲锦标赛女子单打赛夺冠。
代表新加坡出战的冯天薇也是，5岁就开始打球，7岁就得到称霸黑龙江省，2002，当时16岁的她就得到全国青少年锦标赛女单冠军，冯玉薇曾跻身国家队二队，但与一队擦身而过，后又患上心肌炎退出国家队，转往日本职业赛发展并在日本遇上新加坡乒乓球队教练刘国栋，并听他的建议到新加坡发展，值得一提的是，她的伯乐刘国栋也曾是河南的乒乓球选手，现任香港乒乓队主教练。
2008年北京奥运，冯天薇在女子团体赛输给中国队，但为新加坡拿下银牌。2015年亚洲乒乓球锦标赛，曾击败日本的福原爱、中国队的刘诗雯拿下女子单打冠军。在国际的乒乓球赛场上发光发热。
在海外发展，除了有机会也有更长的职业生涯。这些女子乒乓球选手时常在欧洲等各地区的比赛中交手，除了倪夏莲以外，今年代表葡萄牙出战的付玉已经42岁了，但在2019欧洲运动会上夺冠，德国队的韩莹第二、倪夏莲第三，第四则是代表摩纳哥出战的杨晓欣，都来自中国，也都超过30岁。
进入21世纪后，随着传统强队日本、瑞典的没落，中国乒乓队在国际赛事几乎没有对手，在乒乓球的项目上“最终都是中国赢”。甚至在2008年北京奥运开始没有失掉一面乒乓球项目的金牌。
而中国严格的乒乓球训练也吸引许多人前往，包括日本选手福原爱、有台湾“乒乓球教父”美誉、五度征战奥运选手庄智渊都曾赴中国受训，中国也积极输出经验到海外或举办交流，在奥运会场上也可以看到许多中国教练指导国家队，借此回应中国长期制霸奥运，而引发“取消乒乓球项目”的呼声。