北京大学经2002年3月15日第451次校长办公会研究，决定成立“北京大学软件学院”。北京大学经2004年4月20日第531次校长办公会研究决定，将“北京大学软件学院”与“北京大学国家集成电路人才培养基地”结合，“北京大学软件学院”更名为“北京大学软件与微电子学院”。
2003年12月，在教育部组织的对全国35所示范性软件学院中期评估中，北京大学软件学院综合评比排名第一，被誉为“示范中的示范”；2004年11月9日，学院荣获“北京大学教学成果一等奖”；2004年12月9日，荣获“北京市高等教育教学成果一等奖”；2005年9月,荣获高等教育“国家级教学成果一等奖”；2006年，北京大学软件与微电子学院顺利通过了教育部组织的示范性软件学院的验收评估，评估结果为“综合排名第一”。
学院于2002年3月成立至今，已初步形成了一个学院（北京大学软件与微电子学院）、两个学科（软件工程学科、集成电路设计与工程学科）、三个基地（国家软件人才国际培训（北京）基地、国家集成电路人才培养基地、软件工程国家工程研究中心北京工程化基地）的综合性软件与微电子人才培养实体。目前，学院以培养软件工程、集成电路工程、项目管理、电子与通信工程4个领域的工程硕士为主体。学院以脱产、在职的培养方式，发展至今，形成了每年可为国家培养1000名左右的工程硕士研究生的规模。