1891年，一所职业学校在帕萨迪纳成立了，创建者是地方商人和政治家Amos G. Throop。在1920年被冠以California Institute of Technology这个名字以前，这所学校换过N个名字，以Throop大学、Throop工艺学院、和Throop技术学院活跃着。
而加州理工能有今天这样的成就，首先得感谢天文学家：George Ellery Hale。1907年，Hale加入了Throop的校董会，是附近的威尔逊山天文台的首任台长。当时美国的科学研究还处于婴儿期，Hale看到了创建一个正式的工程和自然科学教育的学院的机会，于是他积极地寻找土地和资金赞助，不断地给学校补充装备良好的现代实验室设施，还说服了实验物理学家Robert A. Millikan（1923年诺贝尔物理学奖获得者）加入。
加州理工学院的声誉在1920年代得到了迅速提升，人文和社会科学学院、生物学院、航空术研究生院等相继创立，尤其是加州理工的航空研究，最后吸引到了Theodore von Kármán（冯·卡门，中国两弹一星元勋钱学森是其弟子），他后来为喷气推进实验室的创立作出了突出贡献，并且奠定了加州理工作为火箭科学的前沿中心之一的地位。
