三 出使法国和XYZ事件（1797～1798）
马歇尔缘何接受此次出使呢？马歇尔本人的解释是：“我对我国与法国之间的冲突很感兴趣……如若和谈成功，将给一个有抱负的年轻人带来不小的成就。”加之“这次出使时间不会太久……我的律师业务不会受到太大影响”。
然而这一解释并不是那么令人信服。考虑到他一再拒绝华盛顿总统的任命，这时却放下所有的事情，接受一个他从未见过的总统的请求，出使法国，任务不可测，任期未知，就不能不令人感到奇怪了。而且更令人诧异的是，马歇尔除了偶尔去郡政府参加法院会议和1796年三次短暂的费城之行外，他自1783年结婚以来很少离开家。而此时其妻波莉已有三个月身孕，身体非常虚弱，马歇尔突然去巴黎让波莉很难接受。在马歇尔离开后的一年时间内，他给波莉写了多封感情真挚的信试图安慰她，但这些信对波莉所起的作用很小，波莉在他出使法国期间仅给他回了一封信。马歇尔接受此次出使真正的原因是此时他购买费尔法克斯领地的产权已明确，却筹集不到足够的资金来支付。马歇尔觉得有必要接受这一任命，顺道在欧洲筹集资金。而出使法国的薪水之高，“是上帝能够给予一个人的最丰厚的恩赐”。
不过，这次出使并不成功。一开始法国很顺利地给美国出使法国的三人使团颁发了护照，以便利他们的巴黎之行。然而，当三位使节进入巴黎后，却迟迟得不到正式接见。法国的外交部部长塔列朗认为法国处于优势位置，没有必要急于解决美法之间的冲突，同时通过中间人向美国代表施加压力，借此获得贷款和贿赂，然后再开始谈判。这种策略屡试不爽，法国政客从外国政府那里索取报酬的行为早已习以为常了。对于美国代表来说，他们虽然对此有所耳闻，但并未将之看作平常事。
对于迟迟未能得到接见，马歇尔的耐心在渐渐地消失。他认为塔列朗是故意拖延谈判，并多次督促谈判开始。与此同时，塔列朗派出了三个门下食客来和美国代表接触。其中一个门客是塔列朗的私人银行家皮埃尔·贝拉米先生，他不仅提出美国要向法国贷款一千万美元，外加送给塔列朗25万美元的具体要求，还威胁代表团若不同意，美国国内的亲法势力将会把他们钉在破坏美法和睦关系的耻辱柱上，并一再提到其他顽抗抵制法国的国家命运，以此来迫使代表团顺从法国的要求。
对此，马歇尔和平克尼非常恼怒，但格里依然希望不要太过于冲动。对于代表团的不同意见，平克尼将之归为塔列朗的计谋，“塔列朗使尽浑身解数以使代表团出现裂痕，使格里先生远离他的同事们”。不过，代表团最终还是达成一致意见：在这期间，假若法国暂停对美国船只的攻击，马歇尔回到费城寻求指示。为此马歇尔写了一份备忘录寄给亚当斯，但这份备忘录直到来年的春天才到达费城，在此之前，亚当斯政府对在巴黎这边的情况一无所知。
马歇尔在备忘录中表达了对法国政府的失望情绪。他写道，“法国政府对我们国家相当的敌对，我想要扭转这种局面，为此我不得不在我遇到的所有事情面前闭上眼睛”。“只有大西洋能够挽救我们”，他还补充说道，使节正在为离开巴黎作安排。
塔列朗的三位门下食客一再强调钱对谈判的重要性，“先生，你没有切中要害，是钱。希望你们能提供钱。”“我已经非常明白地切中要害了，没有，六便士也没有。”平克尼愤怒地回答。
贷款和贿赂是谈判的前提，同样的话说了无数遍。“法国的权力和傲慢在我们面前一再展示，我们被告知英国的毁灭是必要的，如果法美两国能保持和平，英国的财富和文化都会流向美国。”马歇尔认为向法国行贿并不能从中得到益处。“法国从美国残暴掳走了150万美元，像敌人一样对待我们。我们试图恢复两国间的和睦……为此我们被告知我们需要支付25万美元以继续待在巴黎看歌剧。”
11月8号，马歇尔又写了一封很长的急件给国务卿皮克林，详细描述了塔列朗的贪婪。平克尼和格里也在上面署名。这份材料和马歇尔10月22日的前一封信于1798年春天被公之于众，在美国引起了巨大的爱国浪潮。其中，公开的材料隐去了塔列朗三位门下食客的姓名，以XYZ代指，该事件也被称为“XYZ事件”。
塔列朗避而不见代表团，马歇尔非常恼怒，但并没有引起他的警觉。“以我个人的看法，在与英国作战的情势下，这个傲慢的、野心勃勃的政府并不愿和美国来一个彻底的决裂，但是他也不愿站在公平的角度或者把我们作为一个独立自由的国家来对待。”可以说，马歇尔对时局的判断是非常准确的。而且，马歇尔认为法国并不是一个共和国，“尽管我不敢说出来，但法国现在不是，将来也不会成为一个共和国；美国，而且只有美国才是人类自由的避难所”。
经过几个月的拖延后，马歇尔决定回国，他于1798年4月乘“亚历山大·汉密尔顿号”前往纽约。平克尼由于女儿生病，在法国南部疗养至8月份回国。格里则继续留在巴黎。对美国来说，代表团出使巴黎是一次外交惨败；然而，对马歇尔来说，这段经历大有裨益。当他从巴黎的来信被公开之后，马歇尔在联邦党内的政治地位得到了极大的提升。作为出使法国外交代表团中第一位回国的成员，马歇尔受到了英雄般的欢迎，民众反法情绪高涨。尽管马歇尔在巴黎谈判期间受到法国方面的无礼对待，但他并不同意法美的战争宣传。他在多个场合不断表明自己的这一立场，他认为法国不愿和美国交战，之所以拖延时间只是为了使谈判过程中的法国更有利。他告诉格洛斯特民兵，“在诉诸刀剑以前，应该尝试所有能够避免战争的更为文明的手段”。
在民众狂热的反法情绪及联邦党内以汉密尔顿为首的激进人士的推动下，1798年，由联邦党人占多数席位的国会通过了四部弥漫着爱国情绪又充满了政治歧见的法律：《归化法》《敌对外侨法》《客籍法》《惩治煽动叛乱法》。这四部法律旨在打击亲法的杰斐逊共和党人，授权总统可以在战争状态下惩治或驱逐任一敌国的侨民或驱逐任何一个他认为危险的敌国的侨民，以保卫美国的“和平与安全”。在这四部法律中，最具争议的是《惩治煽动叛乱法》，该法规定：任何“污蔑、诽谤或恶毒攻击”总统、国会或者政府（副总统被排除在法案的保护之外，而当时的副总统就是共和党领袖托马斯·杰斐逊）的行为，将会被判最高2000美元的罚金以及最长2年的监禁。在该法还未通过前，杰斐逊就曾写信给麦迪逊：“他们把《惩治煽动叛乱法》草案提交到众议院，这就已经是以白纸黑字的方式公然犯罪了，因为宪法修正案已经明确无误地把出版印刷排除于立法管束的范畴。老实说，这部法案和《客籍法》一样，都是在公然违宪，只能表明这些人是多么不尊重宪法。”
而联邦党人则毫不掩饰该法案立法的目的，众院领袖哈珀宣称，该法将会防止美国“被拖入与某个国家的战争，这个国家公开支持我们国内某一政党”。哈珀虽然没有证据，但他还是在众院议事厅宣布：法国“在这个国家是有朋党的，她还在积极地动用一切 ‘外交技巧’与其代理人进行罪恶的勾结，寻求援助……”，很多联邦党人甚至认为“通过向杰斐逊施压，就足可抵挡千万法国人”。
马歇尔出使法国是其政治生涯的一个转折点，在此之前，他偶尔出任公职；而在此之后，他被迫卷入政坛之中，未能再从公职中脱身。在这次外交失败引发的政治风暴中，他该何去何从？