“罄竹难书”的“罄”（qìng），是“用尽”的意思，“竹”指的则是从前用来刻写文字的“竹简”。古代在还没发明纸之前，人们都是把竹子剖成一片片，然后在上面书写文字。所以“罄竹难书”这个成语的意思就是：即使把所有竹子做成竹简拿来书写，也难以写完。

这个成语语较早见于战国时的文献《吕氏春秋·季夏纪·明理》，文中有一段描述了乱世的各种异象，譬如天上的云呈现出怪异的形状、太阳有日蚀的现象、同时有两个或四个月亮一起出现、马的头上长出犄角、有人养出长有五只脚的雄鸡或母猪生下小狗等等，这些奇怪的现象“皆乱国之所生也，不能胜数，尽荆、越之竹，犹不能书”，意思是说这些奇怪的现象，都是由于政治败坏所带来的乱亡征兆，而且这种征召，多到用尽荆、越两地的竹子来写都写不完。“罄竹难书”这句成语就从这里演变而出，用来形容乱象之多。

“罄竹难书”这个成语最初形容乱象极多，但是在后来逐渐转变而专用于形容罪状极多。如《汉书·卷六六·公孙刘田王杨蔡陈郑传·公孙贺》便有“南山之竹不足受我辞”之说，《旧唐书·卷五三·李密列传》也有“罄南山之竹，书罪未穷；决东海之波，流恶难尽。”的用法。意思是用尽终南山(在西安市长安区城南15公里处，东起盛产美玉的蓝田山，西至秦岭主峰太白山，横跨蓝田、长安、户县、周至等县，绵延200余里,雄峙在古城长安（西安）之南，成为长安城的依托和屏障)所有的竹子制成竹简，也写不完杨广的罪过；决出东海的水，也冲洗不清他的罪恶。

前者是汉臣朱世安被诬陷下狱时，上书揭发丞相公孙贺父子作恶多端所用之语；后者则是隋人李密欲讨伐隋炀帝，檄文中用以形容炀帝罪大恶极之语。这两段文字都是描述罪状之多，难以记录。