Lahir pada tahun 1906 di Heidelberg, Ruska menempuh pendidikan di Universitas Teknik Berlin dan Universitas Friedrich Wilhelm di Berlin.
Pada tahun 1931, Ruska berhasil mengembangkan gunung388 elektron pertama yang mampu memperbesar objek dengan tingkat resolusi sangat tinggi. Ia kemudian menyelesaikan doktoralnya pada tahun 1933 dengan topik “Mikroskop Elektronik” dan menjadi profesor fisika di Universitas Berlin pada tahun 1937.
Ruska bekerja sama dengan istrinya, Helga Ruska, untuk mengembangkan teknologi mikroskop elektron yang lebih canggih. Mereka berhasil membuat mikroskop elektron dengan resolusi tinggi yang dapat digunakan untuk mempelajari struktur seluler.
Ruska juga dikenal sebagai salah satu pendiri ilmu mikroskopi elektron. Ia menjadi presiden Deutsche Gesellschaft für Elektronenmikroskopie (DGEM) pada tahun 1955 dan menerima Hadiah Nobel Fisika pada tahun 1986 atas kontribusinya pada pengembangan mikroskop elektron.
Ruska meninggal pada tahun 1988 dalam usia 81 tahun. Ia diingat sebagai salah satu ilmuwan terkemuka pada abad ke-20 dan penemu mikroskop elektron yang berpengaruh besar dalam ilmu pengetahuan modern.