شرکت زیمنس در 12 اکتبر 1847 توسط Werner von Siemens و Johann Georg Halske تاسیس شد. در ابتدا، نام شرکت ‘Telegraphen-Bauanstalt von Siemens & Halske’ نام داشت. سهام این شرکت در سال 1899 عرضه شد.

تاریخ این شرکت همواره انسان دوستانه و زیبا نبوده است. در زمان جنگ جهانی دوم، این شرکت از نیروی کار اجباری برای تولید محصولات Siemens & Halske استفاده کرد. این نیروهای کار اجباری، در یک کمپ واقع در Groß-Rosen قرار داشتند که در 20 کارخانه حوالی Ravensbrück کار میکردند.

شرکت زیمنس امروزی در سال 1966 شکل گرفت. در این سال، شرکت Siemens & alske AG با Siemens-Schuckertwerke AG و Siemens-Reiniger-Werke AG ادغام شد. بسیاری از افراد به یاد ندارند که زیمنس، تحت نام ‘Siemens IT Solutions & Services’ در اصل در بخش IT فعال بود. اما این شاخه از شرکت در سال 2010 به ATOS فروخته شد. در 18 سپتامبر 2011، زیمنس اعلام کرد که دیگر نیروگاه هسته ای تولید نخواهد کرد. همچنین، در سال 2013 نیز، این شرکت تصمیم گرفت که 50 درصد از سهام خود را در سرمایه گذاری مشترک با Nokia در شرکت Nokia Siemens Networks بفروشد.