Легендарный российский гимнаст с шестилетнего возраста начал заниматься под руководством заслуженного тренера России Евгения Николко. Специалист подготовил множество мастеров спорта и спортсменов первого разряда, но именно Немов стал его главной звездой. Свою первую победу он одержал в 1989 году на молодежном первенстве СССР, а уже пять лет спустя завоевал золото чемпионата мира. Всего Немов пять раз становился победителем ЧМ.
Алексей – 12-кратный призер Олимпиад. Все награды он завоевал на Играх в Атланте и в Сиднее, в общей сложности – четыре золота, два серебра и восемь бронзовых медалей. Ждали от него успехов и в 2004 году в Афинах, однако его выступление на Олимпиаде в Греции омрачилось скандалом: судьи оставили его вне числа призеров, явно занизив оценки. Это вызвало настолько бурное возмущение трибун, что арбитры и технический комитет впервые в истории изменили баллы – впрочем, до медалей их все равно не хватило.
Но своей реакцией Алексей навсегда завоевал сердца поклонников спортивной гимнастики во всем мире. Он вышел к зрителям и несколько минут призывал успокоиться и позволить выступить следующему спортсмену. То, с каким спокойствием и достоинством он принял несправедливую оценку, настолько впечатлило Международный комитет Fair Play, что в 2005 году он получил приз Пьера де Кубертена в номинации «поступок», став единственным российским спортсменом, удостоенным этой награды.