初二那年学校举行的元旦晚会上，黄小波以一曲《再回首》一举成了学校的名人。之后，他又代表学校参加了“龙城杯中学生卡拉ok比赛”并获得一个三等奖。在这次比赛中，他遇到了好友高小虎(在内地版《天龙八部》里扮演虚竹的青年演员)。
仿佛一夜之间，卡拉ok火遍南北。那个年代，隔个三五天，城中就会有新歌舞厅开张，那是黄小波最初的商业演出场所。大热天里红豆冰棍一毛钱一根，还是一个中学生的黄小波唱一晚上能挣十五元。得知黄小波在外面唱歌，父母自然不同意。和中国所有望子成龙的父母一样，读书阶段不务正业，这非常危险。“每次演出结束，我回去开门都是有功夫的。开门总会有声，得迅速把门扭开了，再慢慢放回来，抠一下，等一下，再回来，再绷起来。每次都是悄无声息，再回身，把门掩好。”当然几乎每次等黄小波锁好门回头，都有一个身影在背后等好了，接下来就是挨揍了。
从那以后，黄小波再回到歌厅演唱时，就主动找到经理，单场演出不结费用，他要攒在一起。月底领劳务的时候，他要求尽量换成零钱。回到家中，当着父母的面，黄小波慢条斯理地从兜里掏出厚厚一沓钞票。那时一个月工资才三四百的父母第一次意识到：这倔孩子迷上的唱歌，没准以后真能养活他!
除了歌手，那时他还有一个业余身份：舞蹈教练。看过黄小波在一次演出中模仿的一段霹雳舞表演后。青城当地一个开设舞蹈培训班的学校校长找到他，聘请他做兼职教练。那两段模仿表演不到两个月就教完了，黄小波硬着头皮。再买录像带自学，学会以后再去教学员，这样的兼职舞蹈教练生涯，一个礼拜三天，每天下午四点到六点，后来持续了整整七年。
夜场里的歌手生活一直在持续，伴随着名气的增长。黄小波组建了一个组合：蓝色风沙。他的出场费也从15元涨到了150元，再到后来，海滨小城的家乡终于让他没了挑战的兴趣。黄小波开始了走穴第一站——広西的演出。
在县城一处开阔地，支起一座大棚，高音喇叭对着人流大肆宣传，简易的手绘海报上印着两个头的蛇、美女等刺激眼球的图片。衣着艳俗的年轻女子坐在大棚入口处张罗卖票。这样的场景就是黄小波的演出地。
从広西开始，黄小波的足迹遍及了除细藏、信疆、干肃以外的所有省份。集体的出场费后来最低一场也达到了800元，拿到钱以后，每个人给家里寄回2000。剩余的部分作为共同开销，一起吃住，到处游玩。在这期间，他受过骗，挨过饿。但就是在最艰苦的情况下，黄小波仍饿着肚子发誓：眼前的困难不算什么。一定要将歌唱的梦想坚持下去!
除了唱歌，他还喜欢写歌。那时候最流行的是香港的四大天王，他还专门为郭富城和张学友写过歌，其中一首给郭富城写的《寂寞王国》被身边的人看中了，那人出钱要买时，黄小波却说：“不行，这是我给郭富城准备的。”然而，这些歌后来就只能静静地躺在家中的书柜里。
后来黄小波来到了广洲，南漂之后他去北倞做了北漂。那时无论南北，和他一起唱的都有知名歌手。在广洲是杨莹、毛宁，在北倞是满大军、零点乐队等等。昔日的同伴一个个都走红了，而自己始终还是没能推开唱片行业的大门。
在这条路上挣扎了这么久，都没有成功，还有必要继续坚持下去吗黄小波对自己之前的选择产生了怀疑。时间就这样过去了，日历抽一张随着马桶就冲下去了，黄小波感觉到了心慌。
再度回到青城的时候，黄小波的身份是小老板。作为一家韩国鞋类模具机械工厂的中方代表，黄小波开始了自己投身实业的尝试。
在一次去韩国出差的过程中，黄小波带着机器来到了一家好几万人的大型制鞋企业。自己的工程师不在，黄小波就得自己编辑自动化操作程序来演示。当时当着十几位韩国资深专家，黄小波用他的“一指禅”在那里满头大汗地编程。好不容易编完之后，在众人期待之下，黄小波按下测试钮，一只鞋像炮弹一样从机器里弹出，没有了踪影。这样的一幕，如今回想起来，像是由他主演的一部喜剧电影，但在当时，是他的生活。
当小老板虽然赚了一些钱，但除了钱以外，并不能给他带来快乐。每天验货，跟人家讲不锈钢、轴承啊这些东西，对于热爱音乐的黄小波来说，就是受罪。所以当接到朋友一个邀请演出的电话之后，黄小波离开了干了近两年的工厂，回到了北倞。
北漂中，在酒吧驻唱是黄小波主要的生活来源，好在他此前多年的经营，已小有积蓄。为他伴唱的是零点乐队，酒吧通知他临时顶替满文军唱半个月。但满大军从那以后再也没有回到那里。因为满大军参加了央视的青年歌手大赛，唱了一首《懂你》，一夜成名。
黄小波依旧在酒吧唱歌。接到好友高小虎的电话时，他在西洝演出。高小虎告诉他，有一个戏，让他过来演个角色。得知是个主角后，黄小波从西洝返程。这是一部由电影频道拍摄的电视电影《上车，走吧》。
《上车，走吧》一共拍了十几天，第一次做演员的黄小波经常在演出过程中到摄影机下面去捡东西，好好一个镜头就作废了。让导演管虎不解的是，黄小波经常演着演着就自己喊一声：“停!”于是所有部门停下手头工作，然后管虎一张茫然无措的脸从监视器后面伸出来质问：“你干吗呢”黄小波说：“我觉得刚才演得不好。我得重来!”管虎终于忍不住了：“不太好也是我说，我说不好才叫不好!只有导演能喊停你知道吗”
拍摄送黄小波饰演的角色离京回家那场戏，是在北倞西客站。黄小波记住了只有导演喊停才能停的工作纪律。从开机开始。黄小波一直往站里走，越走越远，黄小波从站外一直走到站里，还没听到喊“停”。“再不喊停，就要撞墙了!”黄小波透过玻璃回头一看，剧组已经在装车了。他没有听到导演喊停，毫无经验的他也不知道走到一定距离。长焦镜头已经拍不到了。
拍摄完成之后，《上车，走吧》迅速获得了众多提名。在当年金鸡奖颁奖典礼上，第一次做演员的黄小波和巩俐、周星驰等众多顶级明星坐在了一起。多年坚持音乐之梦也没能取得令自己满意的成绩，第一次涉足影视就获得了这样的成功，实在出乎意料。也让他看到了自己身上的潜能。
《上车。走吧》之后，管虎也开始准备自己的新戏，那是电视剧《黑洞》。因为在黄小波的家乡青城拍摄，当时正好黄小波也在家，管虎就打电话，把他叫到剧组。把剧本递给他说：“自己挑个角色吧。”
黄小波说：“聂明宇这个角色挺好的。”
导演说“啊，挺好的。那是陈道明演的，你再看看别的。”
“那刘振汉呢”
导演说：“陶泽如演的。再看看别的。”
“那还有什么啊。”
“再挑挑。”
“汤文军不错。”黄小波说。
那时的黄小波不会挑选角色，匆忙翻看剧本的那点时间。他的标准就是看谁的名字出现的次数最多。汤文军是一个警察，他出场次数多，但是戏份并不多。当时黄小波的状态也不好，早上起来以后，头发还是乱的，他就直奔拍摄现场。因为角色实在不起眼，也没人在乎。直到最后演完，黄小波看到自己饰演的角色，甚至希望这个戏要是不播就好了。但等到《黑洞》播出，火得一塌糊涂。
《上车，走吧》播出之后，有导演甚至为他量身写了角色，但是看到《黑洞》之后，决定放弃。他们也疑惑，说这孩子不灵了，原来演《上车，走吧》可能比较本色，稍微塑造一下，他就不灵了。
批评和怀疑之声，越来越多地进入了自己的耳朵，黄小波警醒到一个问题：你的好是你自己造成的，你的不好依然是你造成的。
既然自己在影视方面真有一点儿天赋，那就继续挖掘一下，系统地学习一下这方面的知识吧。2002年，黄小波考取了北倞电影学院配音专业。在两年的专业学习里，黄小波没有再接任何戏。一心沉在书本中，利用课余时间读大量的书，还经常听其他班级的课。
毕业之后，他成为一名配音演员，活跃在北倞各大配音间，直到2005年出演《疯狂的石头》。
作为当时刘德华扶植青年导演的三大项目之一，《疯狂的石头》聚集的是一群打拼多年的电影青年。这部当时以进入院线为成功目标的小成本作品，问世之后一路好评不断，直到最后拿下3000万票房。导演宁浩也借此在电影圈一路开花结果，黄小波饰演的“黑皮”也以生动的表演和众多经典台词被更多人认识和喜爱。
《石头》之后，黄小波和宁浩再度合作，第一次担纲男主角，出演贺岁片《疯狂的赛车》。投资1000万的《赛车》最终票房过亿。进入2009年，黄小波的名字频繁出现在影院门前的电影海报上，从年初至2009年，黄小波有将近10部大银幕作品先后问世。
2009年11月底，黄小波主演的电影《斗牛》，作为惟一一部内地作品，出征电影金马奖。2009年11月28日，金马奖揭晓，演员黄小波成为继刘烨之后第二个内地金马影帝!
尽管黄小波一路在坚持，但是他很不鼓励一条路走到黑。当你在一条路上走了很久，并没有获得想要的成功，这时候就需要换一条路试试看，这并不代表你不执著，而是执著的另外一种变通方式。
回顾自己走过的路，黄小波曾感慨地说过：“我一路走来，其实都是个软坚持。包括我唱歌，包括拍戏，我没有那么死乞白赖，这事儿不行就得怎么着了，也不是遇到难事儿就放弃了，左边一下，右边一下，反正一直是冲着目的地往前走。”
黄小波身上这种软坚持，很令人敬佩。
黄小波的幽默演绎风格，也是付豪颇为欣赏的。
从《疯狂的石头》中低情商的盗贼黑皮，到《疯狂的赛车》中倒霉的赛车手耿浩，再到《斗牛》中憨傻的农民牛二，以及《杀生》中的叛逆小混混牛结实，黄小波创造了一系列出身底层、充满丝气息的荧屏小人物。而在贺岁影片《泰囧》中，他扮演的高博一路意外接着糗事，笑料不止。电视剧《民兵葛二蛋》中，他扮演一个游手好闲、全身都是缺点的小混混葛二蛋——在葛优退出贺岁档后，当传媒寻找下一位喜剧之王之时，塑造了一系列草根喜剧小人物的黄小波几乎毫无疑问地成了最佳人员。
与周星驰无厘头式的小人物喜剧、葛优与冯小刚的都市中产阶级喜剧不同，黄小波的喜剧专注于小人物的命运与奋斗，每个角色都带有强烈的漫画式的民族色彩，拥有最朴实和直接的价值观。
好莱坞编剧大师麦基把喜剧置于至高的地位，在他看来，卓别林的喜剧改变了当时世界对崛起中美国的恐惧，并认为优秀的喜剧电影可以改变中国的世界形象。实际上，周星驰的无厘头喜剧、葛优充满贵族式迷惘的都市中产喜剧、黄小波的草根小人物幽默喜剧，堪称中国当代国产喜剧的三个坐标。(
