Kütahya’nın kent merkezinde, Gazi Kemal Mahallesi’ndeki Kütahya Müzesi (Vacidiye Medresesi) ile eski Vahîd Paşa İl Halk Kütüphanesi (II. Yakub Çelebi İmaret Mescidi) arasında yer almaktadır.

Caminin inşa kitabesi bulunmadığından tam olarak ne zaman yapıldığı bilinmemektedir. Ancak, arşiv kayıtları ve onarım kitabelerinden elde bilgiler ışığında ve II. Mehmet (Fatih Sultan Mehmet) zamanında düzenlenen vakfiyesinden caminin dönemin Kütahya Valisi Şehzade Yıldırım Bayezid zamanında (1381-1389) yapılmaya başlandığı, Ankara Savaşı’nda (1402) Yıldırım Bayezid’in esir düşmesinden sonra oğlu Şehzade Musa Çelebi tarafından (1410) tamamlandığı anlaşılmaktadır. Cami Kütahya Evkaf Defteri’ndeki kayıtlara göre Yıldırım Bayezid Han Camii, Evliya Çelebi’nin Seyahatnamesi’nde ise Orhan Gazi Camii olarak bilinmektedir.

Yıllar içerisinde caminin birçok kez onarımdan geçtiği bilinmektedir. 1552 yılında Rodos Seferi’ne giderken, Kanuni Sultan Süleyman üç gün burada kalmış ve Koca Sinan’a (Mimar Sinan) camiyi onarmasını emretmiştir. Mimar Sinan tarafından cami ilk inşa edildiği avlusuz haliyle onarılmıştır. Dördü onarım kitabesi olmak üzere toplamda altı kitabesi bulunan caminin, en eski kitabesi olan minare kitabesinden, 1554 (Hicri) yılında caminin kuzeydoğu köşesine Mustafa ismindeki biri tarafından minare eklendiği anlaşılmaktadır. Bu süreçten sonra uzun yıllar onarım görmeyen camide, 27. 09. 1566, cuma günü II. Selim padişahlığını ilan etmiştir.

Evliya Çelebi Seyahatnamesi’nde 1672 yılındaki Kütahya’yı ziyaretinde caminin 180 arzan uzunluğunda 90 ayak genişliğinde alana sahip olduğunu doğu ve batı yönünde iki yan ve kuzey yönünde bir olmak üzere üç kapısının olduğunu, cami içerisinde ise, elle yedi çam direk olduğunu, fevkani kısmında ve iki tarafında mihraba kadar bir sofa olduğunu ve caminin 64 demir parmaklı penceresi ve tek kubbesi olduğunu belirtmiştir. Bununla birlikte, caminin fevkani kısmı ile birlikte 2.000 kişi aldığını, üzerinin kurşun örtülü olduğunu yazmıştır. Caminin şimdiki cemaat yeri ile Evliya Çelebi’nin gördüğü dönemdeki yer aynıdır.

1805 yılında namaz kılınamayacak halde harap olan cami, Kütahya Valisi Şehzade Mustafa Efendi döneminde halkın desteğiyle onarılmıştır. Bu onarımda caminin tavanı beşik örtüsü denilen tarzda yapılmıştır. 1808 ve 1812 yıllarında da onarımdan geçen cami, 1888-1893 yılları arasında II. Abdülhamid döneminde Kütahya Mutasarrıfı Veysel Paşa zamanında büyük onarım görmüştür. Eski yapının duvarları temele kadar yıkılmış, kesme taştan yeniden yapılmıştır. Çavdarhisar’dan (Aizanoi antik kenti) getirilen mermer plaka ve sütunlar camide kullanılmış ve kubbeli olan bugünkü şeklini almıştır. Ulu Cami, Cumhuriyet döneminde ise, 1961 ve 1962 yıllarında basit onarımdan geçirilmiştir.

Ulu Camii bugünkü haliyle, 45 metre boy ve 25 metre genişliğinde dikdörtgen yapısıyla halen Kütahya’nın en geniş camisidir. İki büyük merkezi kubbe, altı yarım kubbe ve köşelerde dört küçük kubbeden meydana gelen kurşun kaplı bir üst örtüye sahiptir. Doğu ve batı cephesin üçer payanda ile destelenen caminin, iki sıralı pencere düzeni vardır. Avlusu olmayan Caminin kuzeydoğu köşesinde bir minaresi ve doğu, batı ve kuzey yönünde üç kapısı vardır. Caminin batı kapısında kitabesiz bir kabir yer almaktadır. Halkın görüşüne göre kabir, caminin mimarına aittir. Ana giriş kapısı karşısında şadırvan, şadırvanın üstünde altı sütunla desteklenmiş ve ahşap tavanlı müezzin yeri, şadırvanın karşısında ise mermer sütunlarla taşınan mahfil katı bulunmaktadır. Cemaat yeri iki sıralı altı sade ve yastıklı mermer sütunla üç alana ayrılmaktadır. Kemerler iki renklidir. Mermer Mihrap, kademeli çıkıntıları olan (Mukarnas) kavsaralı ve iki yanında silindirik küçük sütuna sahiptir. Mihrabın sağındaki dört karodan oluşan Kâbe tasvirli çini kompozisyonu dışında camide başka çini kullanılmamıştır. Cami iç tavan ve pencere çevreleri süslemesinde bitkisel motifler kullanılarak kalem işi tekniğiyle, yazılar ise, Hattat Halil Kütahyavi tarafından yapılmıştır. Ahşap minberin yapımında ise, kündekari tekniği kullanılmıştır.