Pria kelahiran Magelang ini, ternyata dulu pernah bercita-cita ingin menjadi guru. Cita-citanya tercapai setelah lulus dari SMA (Seminari). Ia sempat menjadi guru SMP selama satu tahun di SMP Mardiyuwana (Cipanas, Jabar) dan SMP Van Lith Jakarta. Namun panggilan menjadi seorang wartawan membawanya ke jalan hidup yang lain. Ia kemudian melanjutkan studi ke jurusan jurnalistik di Perguruan Tinggi Publisistik Jakarta dan di jurusan publisistik di Fisipol UGM Yogyakarta.
Menurutnya, profesi di bidang jurnalistik tak jauh berbeda dengan guru. Kemudian ia bertemu dengan PK Ojong dan mendirikan Kompas. Kompas kemudian menjadi besar seperti yang kita kenal sekarang. Di usianya yang senja, ia juga masih aktif sebagai Pembina Pengurus Pusat PWI dan Penasihat Konfederasi Wartawan ASEAN.
Pada awal kariernya di dunia jurnalistik ia menjadi wartawan di Majalah Mingguan Penabur, sebuah media pendidikan. Kariernya mulai menanjak ketika ia bertemu dengan PK Ojong mendirikan Majalah Intisari. Setelah majalah ini diterima publik, ia mendirikan Harian Kompas pada 28 Juni 1965, kembali bersama dengan PK Ojong. Di bawah kepemimpinannya, Kompas berkembang pesat dan merajai penjualan surat kabar secara nasional dengan tiras terbesar. Pembaca koran ini mencapai 2,25 juta orang di seluruh Indonesia. Kompas pernah dua kali dilarang terbit pada tanggal 2 Oktober 1965 (peristiwa G30S) dan pada tanggal 21 Januari 1978 (peristiwa Malari).
Kunci sukses Jakob Oetama dengan Kompas-nya adalah karena idealismenya, kerja keras, dan inovasi. ”Karena kami yakin melalui media tersebut, kehidupan, ilmu, kebudayaan, peradaban, juga cinta diwartakan dan didokumentasikan. Dan spirit itu harus tetap ada hingga kini, sampai kapanpun,” kata Jakob. Bersama Kompas, ia telah banyak melakukan inovasi yang membuka cakrawala baru bagi insan pers di Indonesia. Misalnya, membuat Kompas menjadi lebih lebih berwarna, Kompas.com, Kompasiana, Kompas untuk iPad, dan sebagainya.
Jakob Oetama dengan Kompas-nya cenderung “dekat” dengan rezim. Ketika Orde Baru, ia disebut-sebut dekat dengan Harmoko, sang Menteri Penerangan. Menghadapi gejala yang berbau politik, ia sering memilih jalan aman. Tak heran jika Kompas melenggang mulus di tengah kegelapan pers era Orde Baru, karena seringnya kompromi dengan kebijakan penguasa. Jurnalisme damai nan anggun, begitu katanya. Berkat jurnalisme damai tersebut, Kompas menjadi surat kabar mapan dan eksis sampai sekarang.
Jurnalisme damai yang dimaksud adalah proses penciptaan kultur jurnalisme baru, yang memungkinkan pers bertahan di tengah-tengah konfigurasi politik otoriter. Jakob dinilai telah menunjukkan bahwa misi jurnalisme tidak hanya sekadar menyampaikan informasi kepada pembaca, tetapi yang penting adalah untuk mendidik dan mencerahkan hati nurani anak bangsa. Hal sesuai dengan slogan Kompas “Amanat Hati Nurani Rakyat”, yang terpampang jelas di bawah logo harian Kompas.
Jakob juga mencetuskan “jurnalisme makna” yang berupaya menyadarkan hati nurani para pembaca tentang perlunya bangsa ini menghapuskan nilai-nilai primordial, menanamkan etika dan moral demokrasi serta keadilan dalam kehidupan berbangsa dan bernegara. Kini, Jakob Oetama telah menjadi tokoh besar namun dengan sifat rendah hati yang selalu terjaga.