ولد جيمس كرومويل في لوس أنجلوس لكنه نشأ في مانهاتن وتلقى تعليمه في كلية ميدلبري وجامعة كارنيجي ميلون، وهو ابن المخرج السينمائي جون كرومويل والممثلة كاي جونسون. درس التمثيل في جامعة كارنيجي ميلون، وذهب إلى المسرح (مثل والديه) حيث قام بكل شيء بدءًا من شكسبير وحتى المسرحيات التجريبية. بدأ الظهور على شاشة التلفزيون في عام 1974، وحظي ببعض الاهتمام في دور متكرر كصديق آرتشي بنكر سترتش كننغهام في فيلم All in the Family (1971)، وظهر لأول مرة في فيلمه في عام 1976، ويعود إلى المسرح بشكل دوري. بعض أدواره السينمائية الأكثر شهرة كانت في فيلم Revenge of the Nerds (1984)، Star Trek: First Contact (1996) والفيلم الكلاسيكي المفاجئ عن الخنزير الساحر، Babe (1995). حصل على بعض من أفضل التقييمات في حياته المهنية (قال الكثير منها إنه كان يجب أن يحصل على جائزة الأوسكار) لدوره كقائد شرطة فاسد ومتواطئ في فيلم L.A. Confidential (1997).