Im Jahr 1846 eröffnete Carl Zeiss (1816-1888) in Jena eine Feinmechanische und Optische Werkstätte. Auf Anraten des Botanikers Matthias Schleiden (1804-1881) konzentrierte er sich auf den Bau von Mikroskopen, denn in der Biologie und den angrenzenden Disziplinen wuchs der Bedarf an Instrumenten stetig. Seit 1847 bot Carl Zeiss einfache Mikroskope an, die nicht viel leistungsfähiger waren als bessere Lupen. Aber Fortschritte in der Wissenschaft ließen sich nur noch mit zusammengesetzten Mikroskopen erzielen, wie sie auch Zeiss seit 1857 herstellte. Hier bestanden die Objektive aus mehreren Linsen. In handwerklicher Tradition wurden verschiedene Linsen so lange kombiniert, bis sie ein gutes Bild erzeugten. Das war ein erfahrungsgeleitetes Verfahren, und alle Objektive, die so hergestellt wurden, unterschieden sich voneinander.
Das befriedigte Carl Zeiss nicht, und er suchte die Zusammenarbeit mit dem Physiker Ernst Abbe (1840-1905), um die Herstellung von Mikroskop-Optiken auf eine wissenschaftliche Basis zu stellen. Trotz mancher Rückschläge formulierte Abbe eine eigene Theorie der Bildentstehung im Mikroskop. Seit 1872 brachte die Firma Carl Zeiss nur noch berechnete Optiken auf den Markt. Manche Konkurrenten spotteten und warben ausdrücklich damit, dass ihre Mikroskope nicht auf den Jenaer Rechenmethoden basierten. Ernst Abbe schrieb später dazu, dass zu diesem Zeitpunkt ein guter und erfahrener Handwerker noch mit den gerechneten Optiken mithalten konnte.
Seit 1882 arbeiteten Carl Zeiss und Ernst Abbe mit dem Chemiker Otto Schott (1851-1935) zusammen. Durch systematische Versuche gelang es Schott, Glassorten mit besonderen optischen Eigenschaften zu entwickeln. Seit 1884 stellte das Jenaer Glaswerk Schott &Genossen solche Gläser in größerem Maßstab her. Mit Hilfe dieser neuen Materialien errechneten Abbe und seine Schüler die Apochromat-Objektive, die handwerklich gefertigten Objektiven weit überlegen waren. Die Konkurrenzunternehmen mussten von nun an entweder selbst wissenschaftliche Methoden anwenden, oder sie gingen über kurz oder lang unter.
Abbe übertrug seine Denk- und Arbeitsweise auf seine Schüler: Wissenschaftliche Durchdringung und mathematisches Herangehen wurden zur Voraussetzung für neue Produkte. Karl Bratuschek (1865-1913; 1892 eingestellt) wird nachgesagt, dass nur seine schlechte Gesundheit ihn daran hinderte, den Phasenkontrast zu entdecken. Die Namen Hermann Ambronn (1856-1927; eingestellt 1899), Henry Siedentopf (1872-1940; eingestellt 1899) und August Köhler (1866-1948; 1900 eingestellt) sind mit bedeutenden Fortschritten in der Mikroskopie verbunden. Sie entwickelten vor dem Ersten Weltkrieg das Spalt-Ultramikroskop für die Untersuchung von Partikeln unterhalb der Abbe-Auflösungsgrenze und das UV-Mikroskop, das den Grundstein für die moderne Fluoreszenzmikroskopie legte. Zusammen mit Frits Zernike (1888-1966), der dafür 1953 den Nobelpreis erhielt, entwickelte man in den 1930er Jahren das Phasenkontrastverfahren. Die Beispiele lassen sich bis in die Gegenwart fortschreiben.
Ab den 1890er Jahren erweiterte das Unternehmen seine Geschäftsfelder mit wissenschaftsbasierten innovativen Produkten: Siegfried Czapski (1861-1907) war federführend bei der Ausarbeitung eines neuen Fernglas-Designs. Otto Eppenstein (1876-1942) legte die wissenschaftlichen Grundlagen bei Entfernungsmessern. Bei den Fotoobjektiven brachten Paul Rudolph (1858-1935) und Ernst Wandersleb (1879-1963) neue Typen auf den Weg, die über Jahrzehnte den Markt beherrschten. Carl Pulfrich (1858-1927) entwickelte nicht nur Geräte zur chemischen Analyse mit optischen Methoden, sondern er beschäftigte sich auch mit den grundlegenden Fragen der räumlichen Wahrnehmung, was Grundlage vieler Produkte wurde. In der Zusammenarbeit zwischen dem Mediziner und Nobelpreisträger Alvar Gullstrand (1862-1930) und dem Zeiss-Mitarbeiter Moritz von Rohr (1868-1940) entstanden ganz neue Typen von Brillengläsern und Geräten für den Augenarzt. Auch hier lassen sich die Beispiele bis in die Gegenwart fortschreiben.
Seit 1891 gehörte das Unternehmen der von Ernst Abbe gegründeten Carl-Zeiss-Stiftung. In deren Statut legte Abbe 1896 fest, dass das Unternehmen auch Projekte betreiben sollte, die keinen »unmittelbaren Vorteil« versprechen, nur um die »Bedürfnisse der Wissenschaft« zu befördern (§ 42). Dieses Denken prägte das Unternehmen nachhaltig, auch wenn das Statut in dieser Form seit 2004 nicht mehr in Kraft ist. Polemisch wurde das Unternehmen auch als Forschungslabor mit angeschlossener Produktion bezeichnet. Gelegentlich führte das zu geringem Gewinnstreben und mangelnder Profitabilität. In den 1990er Jahren brachte dies das Unternehmen an den Rand des Konkurses.
Die Entwicklung von EUV-Optiken, die man für die Maschinen braucht, um die zurzeit am dichtesten gepackten Mikrochips herzustellen, dauerte mehr als 20 Jahre. Namhafte japanische Konkurrenten gaben auf, weil sie die Überzeugung verloren, dass solche Optiken möglich seien. Ohne die tiefe Bindung von Zeiss und seinen Mitarbeitern an Wissenschaft und Forschung wäre dieser Erfolg sicher nicht möglich gewesen.