1951年，平度、平南、平东、平西四县文化馆都设有图书室。1953年，平度、蓼兰两县文化馆仍设有图书室。1956年以两县文化馆图书室为基础，成立平度县图书馆。内设借书室、阅览室。1971年，图书馆并入文化馆，复为文化馆图书室。1973年恢复平度县图书馆。1978年增设文物室（原文化馆文物室）；1984年8月撤销（独立建馆）。图书馆是搜集、整理、收藏和流通图书资料，以供读者学习和参考研究的专业性文化机构，是市区重要的学习、宣传、教育阵地。
图书馆馆藏图书报刊资料37万册。其中收藏自1939年以来的报纸和期刊1000多种，26000多个合订本，古籍线装书和各类工具书1万册，地方文献3500余册。
近几年，市图书馆坚持以争创高标准文明图书馆为目标，全方位实施图书馆名牌战略，“读者第一，服务至上”是图书馆工作的宗旨，不断加强科学管理，拓宽服务领域，提高办馆效率，建立了科学、规范、定量、有序的工作秩序，使图书馆工作逐渐走向科学化、规范化、正规化。
1996年落成的图书馆新大楼位于市区红旗路131号，建筑面积3010平方米（含附属房350平方米），座落于城区经济文化中心。仿古式的建筑与城区文化休憩广场融为一体，环境优雅。图书馆内设“成人外借部”、“成人阅览部”、“儿童借书室”、“儿童阅览室”、“国学经典阅览室”、“采编部”、“辅导部”、“电子阅览室”、“文献研究室”、“典藏书库”、“特藏书库”、“报刊资料库”等21个部、室（库），并设有报告厅、讲座厅、展览大厅和尼山书院大讲堂可进行高层次的文化交流。
平度市图书馆目前共有3个分馆，分别是凤台街道星光社会分馆，面积500余平方米，工作人员3名；凤台街道馨苑社区分馆，面积300余平方米，工作人员3名；蓝树谷分馆，面积2400余平方米，工作人员6名。
