约翰·克里斯托弗·威廉斯(Williams, John Chirstopher)于1941年4月24日生于澳大利亚的墨尔本。他的父亲雷奥纳德·威廉斯于20世纪30年代后期由澳大利亚移民至伦敦。在伦敦，出于对政治活动和爵士音乐的共同爱好，雷奥纳德结识了他的妻子玛朗。雷尼(雷奥纳德的昵称)当时是个受人尊敬的爵士吉他手，但是他的兴趣慢慢地转向了古典曲目。当小约翰四岁的时候，他就从父亲那里得到了他的第一把吉他，虽然约翰坚持说正规的教育是直到两三年后才开始的。由于雷尼刚刚萌发对古典技巧的热爱，他不许约翰涉足形式更加自由的演奏风格，对这一点，大师在后来经常耿耿于怀。

1952年，全家迁回英国后，雷尼想建立一所吉他学校(他极其成功地建立了至今仍在运作的伦敦吉他中心)。他还有个不为人知的想法，那就是在认识到幼子的天赋后，他希望儿子跟随最好的老师进行学习。这在澳大利亚是不可能的，所以通过特瑞·阿舍尔的友谊，他们在一次伦敦之行中遇到了安德列斯·塞戈维亚。“现代吉他的创始人”对这个11岁的孩子留下了深刻的印象，并安排他到意大利西纳的基甲纳音乐学院参加自己的暑期课程。直到1959年，这位年轻的天才每年都往返于伦敦与意大利之间。

1955年，在同学们的要求下，约翰·威廉斯获得了一项前所未有的殊荣，他举办了器乐专业学生第一场完全的个人独奏音乐会，这也是他的首次成功。

不在西纳的时候，他于1956年到1959年间就读于伦敦皇家音乐学院，学习钢琴和音乐理论。他当时并没有学习吉他，原因是当时的皇家音乐学院与绝大多数其他音乐学校或学院一样，并没有设立吉他课程！然而就在他毕业后不久，他便受邀主持新成立的吉他系。显而易见，皇家音乐学院正在为那些试图与近期毕业的校友一争高下的音乐家们闪亮登场而未雨绸缪。他直到1973年才离任，并在后来的多年之中一直与学院保持联系，还时不时地再度造访。另外他作为皇家北方音乐学院的名誉研究员，也与该学院维持类似的关系。

史蒂芬·道奇森是皇家音乐学院的和声学讲师，他作为编曲者和导师，总是与以前的学生长年维持音乐方面的交流切磋。他于1971年受威廉斯委托创作的第二吉他协奏曲，就是专门题献给这位吉他演奏家的。

威廉斯于1958年11月6日在威格默尔音乐厅进行了他的首次职业性演出。那时距他18岁生日以及正规音乐教育的结束还有5个月的时间。

但即便在那时，他就已经声名鹊起，当时的音乐会节目单上便引有今天尽人皆知的塞戈维亚大师的话语：“一位吉他王子已经降临到音乐世界，上帝对他真是恩宠有加，不久他的名字就会在英伦和海外成为人们议论的话题，为人类带来巨大的精神财富。时值他的第一次公开演出，我为这位年轻的艺术家喝彩，并由衷地祝愿成功将象他自己的影子一样伴随着他的旅程。”

《伦敦时报》则这样评论他的演出：“……他的技巧已经炉火纯青；这在一首取材于巴赫大提琴组曲(第三号，由J.W. Duarte改编)三个乐章的改编曲中尤为明显，每个细节都丝丝入扣，应付裕如，乐句的呼吸和音色的对比更是和谐悦耳和独具匠心。在卫斯著名的《a小调组曲》中，紧张使得一些音符过分突兀，在本该流畅的旋律线中显得有些意外。毫无疑问，在索尔的《莫扎特魔笛主题与变奏》中他频繁使用了不合时宜的自由节奏，不可避免地体现了他在艺术上的不成熟。在托罗巴的一首充满浪漫色彩的小奏鸣曲中，他又显得有些拘束，尤其是在音色变化方面，未能让想象的翅膀纵情驰骋。但他仍然是个成就菲然、态度严谨的年轻艺术家，我们满怀兴趣关注他未来的发展。”

在某些圈子里，关于他“直线式技巧”的批评，及其某些时候“毫无精神”的演奏风格的评论，一直延续至今。

他首次演出的曲目收录在他当时录制并于1959年发行的最初两张唱片专辑中。他与著名的Ibbs & Tillett Agency签约，该机构后来成为哈洛德·霍特组织的一部分，而哈洛德·霍特组织现在已经成为阿斯科纳斯·霍特，威廉斯一直与之进行合作。

接下来的巴黎首演(1959年)和马德里首演(1961年)也取得了巨大的成功。1962年，他获得了作为一位西方音乐家罕能获得的在苏联进行巡回演出的特权。不管他在哪里演出，迎接他的都是一片赞誉。

他返回英国后的首次演出仍然设于威格默尔音乐厅，这次音乐会被誉为是一场盛事。时报评论道：“自从我们听过威廉斯先生上次在这个舞台上演出之后，他再次登场时给人们的第一印象和最深印象便是他对其技巧的强化程度。现在他的运指已经灵活自如，显得游刃有余。他的一首巴赫组曲和两首史卡拉蒂的奏鸣曲中表现出的均衡感，绝对令人赞叹。……在结束部分的维拉-罗伯斯、图里纳、庞塞、和格拉那多斯的一组浪漫主义作品亦得到了认同和关注，但是他对这些后期音乐的演绎仍是略显苍白的黑白方式，而未能尽情展现音乐中充斥的灵活多变与极富表现力的多种音色。”

再度发行了两张成功的唱片之后，威廉斯迎来了1963年的日本首演。后来CBS(现在的Sony Classical)与他签订了录音合同。他在CBS第一张唱片的标题《CBS推介约翰·威廉斯》可谓毫无想像力，这张唱片发行于1964年，同年12月6日恰逢他定于纽约的美国首演。从那时起，威廉斯就为CBS公司每年至少发行一张新唱片；另外，其他的唱片公司也发行过他的古典成分较少的曲目，他还通过RCA公司与朱里安·布里姆进行过合作。一直到20世纪70年代中期，几乎所有的录音制作都是在CBS公司制作人保罗·麦尔斯严谨的监督下于纽约完成的。

1964年他首次结婚，但这次婚姻于1969年不幸地结束。他的女儿凯蒂生于1965年，现在是个爵士钢琴手。