ג'ים מקרטני נולד ב-7 ביולי 1902 באברטון שבליברפול לג'וזף ופלורנס מקרטני. לג'ים היו חמש אחיות, אדית', אן, מילי, אנני וג'ין, ושני אחים, ג'ק וג'וזף. בעודו תלמיד בבית הספר היסודי הוא עבד בתאטרון Everton Theatre Royal, כדי לסייע לפרנסת המשפחה, ותפקידו היה למכור את התכניות. בסוף ההופעות היה ג'ים אוסף את התכניות שהושלכו לרצפה, הביא אותן הביתה כדי שאחותו מילי תגהץ אותן, וכך למחרת מכר אותן שוב, ושלשל את הכסף לכיסו.
למשפחת מקרטני היה בבית פסנתר יד שנייה, אותו קנתה בחנות NEMS של משפחת אפשטיין. ג'ים לימד את עצמו לנגן בפסנתר מנגינות ששמע ערב קודם באולם התאטרון. כך השתלב בנוהג המשפחתי להתכנס בערבים לשירה בציבור. ערבים אלה כונו "ערבי קילו" משום שבכל פעם, הביא אחד האורחים למשפחה המארחת קילו סוכר או קילו תה או קילו של דבר מזון אחר. בגיל 10 קרע ג'ים את עור התוף הימני כשנפל מקיר שעליו טיפס, אבל זה לא הפריע לו להמשיך במוזיקה.
בשנת 1916, כשהוא בן 14, עזב ג'ים את לימודיו והתחיל לעבוד בחברה למסחר בכותנה, A. Hannay & Company, כנער שליחויות. רק בגיל 28 קודם לתפקיד איש מכירות מטעם החברה, בבורסת הכותנה. לקראת סוף מלחמת העולם הראשונה הקים ג'ים, עם אחיו ג'ק, להקת סווינג בשם Masked Melody Makers, משום שהופיעו עוטים מסיכות שחורות בתור גימיק, עד שבאחת ההופעות, מרוב שהזיעו, נצבעו פניהם בשחור. מאז הם וויתרו על מסיכות ושינו את שמם ל-Jim Mac's Jazz Band. הם הופיען לבושים במקטורן ערב, במסיבות ריקודים, מפגשים חברתיים ומדי פעם בבתי קולנוע כשביצעו מוזיקה בהקרנות של סרטים אילמים. ברפרטואר שלהם היו שירים כמו Thanks For The Buggy Ride, Horsey Keep Your Tail Up, Birth Of The Blues, Some of These Days, Chicago, Stairway To Paradise ואפילו קטע שג'ים הלחין בשם Walking In The Park With Eloise. בנוסף להיותו פסנתרן, ג'ים גם החל לנגן בחצוצרה, אך בגלל בעיות בשיניו, חזר להופיע על הפסנתר.
הנה Walking in the Park With Eloise בגרסה שהוציא פול מקרטני בשנת 1974:
עם פרוץ מלחמת העולם השנייה, נסגרה בורסת הכותנה ונפסקה פעילות הלהקה. ג'ים הלך לעבוד כמפעיל מחרטת במפעל למנועי המטוסים. ג'ים בן ה-37 לא גויס לשורות הצבא משום שהיה מבוגר מדי ומשום שהפרופיל שלו היה נמוך בגלל הפגיעה בשמיעה. מאחור והוא רצה לתרום למאמץ המלחמתי, החליט להתנדב בלילות ככבאי, תפקיד מאד מבוקש על רקע ההפצצות של חיל האוויר הגרמני על ליברפול.
לילה אחד הוא פגש את מרי מוהין, אחות בבית החולים Walton Hospital, וב-15 באפריל 1941 השניים נישאו בכנסיית St Swithin's Roman Catholic Chapel, כשג'ים בן 38 ומרי בת 31. כעבור כשנה, ב-18 ביוני 1942, נולד בנם הראשון, ג'יימס פול מקרטני, בבית החולים שבו עבדה מרי. כאשר ג'ים ראה את הילוד הוא אמר לחרדתו שהוא "נראה נורא, כמו חתיכת בשר אדירה", וחזר הביתה, שם נשבר ובכה.
ג'ים עבר לעבוד במחלקת הניקוי של חברת Liverpool Corporation ומרי חזרה לעבודה בבית החולים. ב-7 בינואר 1944 נולד בנם השני, מייקל מקרטני. עם סיום מלחמת העולם השנייה חזר ג'ים לעבודתו הקודמת בבורסת הכותנה.
ב-31 באוקטובר 1956 נפטרה מרי מסרטן השד וג'ים היה שבור. שתיים מאחיותיו, מילי וג'יני, לקחו על עצמן לסייע לו בטיפול בבית והחלו להגיע לביתו בקביעות ולעזור בניקיון ובבישולים.
בסוף שנת 1960, כשחזר חזר פול מהמבורג, לשם נסע עם להקת הביטלס, התעקש ג'ים שישיג עבודה מהוגנת. הוא לא אהב את הרעיון שפול מסתובב עם להקת רוק ולא לומד, ולכן הברירה שהותיר בידיו הייתה להשיג משרה קבועה עם הכנסה נאה. פול נעתר לבקשתו, אך כעבור זמן קצר חזר ללהקת הביטלס ולבסוף התפטר מתפקידו המכובד כמטאטא החצר של המפעל שבו הועסק.
כשהכיר ג'ים את בריאן אפשטיין הוא היה חשדן כלפיו והתייחס אליו כאל "בחור יהודי" שרוצה לעשות כסף על חשבון פול וחבריו. עם הזמן, ככל שהביטלס הלכו והצליחו, הרעיון מצא חן בעיני ג'ים והפך לגאה בבנו.
בשנת 1964, כשג'ים היה בן 61, שכנע אותו פול לפרוש לגמלאות והבטיח לו שידאג לצרכיו בשארית חייו ויקנה לו בית בהסוול, מעבר לנהר המרזי. ב-24 בנובמבר 1964 נשא ג'ים לאשה את אנג'לה לוסיה וויליאמס, אלמנה צעירה ממנו ב-28 שנה ואם לילדה בת 5, בשם רות'.
ג'ים עבר עם משפחתו החדשה לבית שרכש עבורו פול, שכונה Rembrandt, כשהוא סובל מדלקת פרקים, מחלה שליוותה אותו בשמונה השנים שלפני מותו. ב-18 במרץ 1976, כשהוא בן 73, נפטר ג'ים בביתו, ומילותיו האחרונות היו "בקרוב אהיה עם מרי".
גופתו של ג'ים נשרפה במסגרת טקס שהתקיים ב-22 במרץ 1976, ללא השתתפותו של פול, שהמשיך בסיבוב ההופעות של להקתו, ווינגס, במסגרת Wings Over The World Tour. אחיו, מייקל, אמר "זה לא מקרי שפול לא נוכח בטקס. הוא לעולם לא היה יכול להתמודד עם אסון מהסוג הזה". ככל הנראה, לא השתתף פול בטקס הלוויה של אביו משום שהדבר היה מחייב ביטול הופעות שהיו גוררות הפסדים של מיליוני דולרים. בנוסף, סביר להניח שפול רצה להימנע מכך שנוכחותו תגרום לקרקס תקשורתי ולכינוס המוני של מעריצים. זו אותה סיבה שבגללה נמנעו חברי הביטלס מלהשתתף בהלווייתו של בריאן אפשטיין ב-30 באוגוסט 1967.
