山东省青岛第二卫生学校的前身是“胶县中心医院附设护士学校”。是由昌潍地区行政公署卫生局和胶县人民政府卫生局1958年6月共同筹建。1961年因自然灾害、生活困难停办。1965年秋，经山东省人民政府批准，开始复校招生，校名为“胶县中心医院半工半读学校”。由于文化大革命的干扰，在1968年停办。
    1973年，经山东省计委、山东省卫生厅批准，再次复校招生，校名为“山东省胶县卫生学校”。1978年，因学校党的隶属关系归属胶县中心医院党委，学校改名为“胶县中心医院卫生学校”。1979年，因胶县划归青岛市管理，又易名“青岛市胶县中心医院卫生学校”。1985年9月28日，经青岛市委研究，同意学校定为县级单位（青组（1987）34号）。1986年，经山东省人民政府批准（（86）鲁政函教字4号），又更名为“山东省胶县护士学校”，隶属青岛市卫生局管理。1987年，因撤胶县设胶州市，经青岛市人民政府（青政函字[87]10号）批准，定名为“山东省青岛第二卫生学校”。此名一直沿用至今。