Sinh ra ở núi rừng Tây Nguyên, làm bạn với trẻ em người dân tộc, cậu bé KonTum hiền lành, ít nói và chăm chỉ học tập. Năm 11 tuổi, cậu bé KonTum theo gia đình chuyển về Huế và học lớp Nhì Tiểu học trong khi thạo tiếng Êđê hơn tiếng Việt và chưa thạo tiếng phổ thông cho đến những năm đầu của bậc Thành chung.Đến năm thứ 4 Thành chung, được thầy Đặng Thai Mai vừa tốt nghiệp Cao đẳng Sư phạm Hà Nội dạy trực tiếp đã giúp cậu bé KonTum chưa thạo tiếng phổ thông có thể cảm nhận cái hay, cái đẹp của nền văn học Việt Nam.Sau khi tốt nghiệp Thành chung loại xuất sắc, năm 1930 Ngụy Như KonTum được cấp học bổng học tiếp Ban Tú tài Bản xứ tại trường Bưởi.Năm 1932 anh thanh niên Ngụy Như KonTum đạt được kỳ tích đậu “Tam nguyên” cả 3 bằng Tú tài: Tú tài Bản xứ, Tú tài Tây ban Toán, Tú tài Tây ban Triết.Với mơ ước được tiếp thu khoa học tận nguồn, sau khi đậu 3 bằng Tú tài,Ngụy Như KonTum nhận được học bổng du học ở Trường Đại học Sorbonne, Paris, một trường đại học lâu đời và nổi tiếng của Pháp.Với bẩm tính thông minh, lòng say mê học tập, ý chí quyết tâm đạt tới đỉnh cao khoa học, sau 3 năm học, Ngụy Như KonTum giành được bằng cử nhân khoa học Vật lý và sau đó 3 năm là bằng thạc sĩ Lý – Hóa vào hạng xuất sắc. Sau đó, anh được Nhà Vật lí hạt nhân nổi tiếng của Pháp là Giáo sư Joliot Cuire hướng dẫn làm nghiên cứu sinh tại phòng thí nghiệm của ông. Một năm sau, Chiến tranh thế giới lần thứ 2 bùng nổ, nghe lời khuyên của Giáo sư Joliot Cuire “đất nước của anh cần anh hơn là nước Pháp”,GS. Ngụy Như KonTum đã từ giã người thầy uyên bác và nhân hậu của mình để xuống tàu về nước năm 1939.Tấm ảnh của GS. Frédéric Joliot (hay Joliot Curie - Giải Nobel Hóa học năm 1935 cùng với vợ, ông là con rể và là phụ tá của nhà bác học Marie Curie) với chữ ký tặng cho người phụ tá nghiên cứu của mình là GS. Ngụy Như Kontum khi GS. Kontum về Việt
Về nước, anh được bổ nhiệm về dạy ở Ban Tú tài Trường Chasseloup (Sài Gòn) và đến năm 1941 về dạy ở Trường Bưởi. Trong thời kì này, Giáo sư đã cùng các giáo sư người Việt như Dương Quảng Hàm, Trần Văn Khang, Lê Thước,… phụ trách giảng dạy tất cả các bộ môn ở bậc Cao đẳng Tiểu học, khởi đầu cho nền giáo dục bằng tiếng Việt ở Việt Nam.Giáo sư còn là người đi đầu xóa bỏ sự ngăn cách giữa nhà trường và xã hội xung quanh. Giáo sư làm trưởng đoàn cho Đoàn du lịch Đoàn Rồng với các đội mang tên những danh nhân Việt Nam cho cho học sinh đi thăm quan các danh lam thắng cảnh như Đền Hùng, đền Kiếp Bạc, cố đô Hoa Lư, di tích Lam Sơn,... để gợi nhớcội nguồn cùng các chiến công hào hùng của tổ tiên ta.Năm 1942, tờ báo Khoa học đầu tiên của nước ta do GS. Nguyễn Xiển làm chủ bút ra đời. Giáo sư Ngụy Như KonTum đã viết bài đầu tiên bằng tiếng Việt về những chuyến bay của con người ra ngoài hành tinh trong tương lai.Năm 1954, hòa bình được lập lại ở miền Bắc, Giáo sư về dạy Vật lý ở Trường Đại học Sư phạm Khoa học. Năm 1956, Trường Đại học Tổng hợp Hà Nội được thành lập, Giáo sư được cử làm Hiệu trưởng đầu tiên của trường, liên tục giữ chức vụ đó cho tới 1982 - khi Giáo sư về hưu.