ג'יימס אברהם גרפילד נולד באיזור ספר במדינת אוהיו.
בנם של אברם גרפילד (Abram Garfield) ואשתו אלייזה בלו (Eliza Ballou) אשר היגרו לאיזור מניו אינגלנד.
אביו שהיה חקלאי וחופר תעלות נפטר בהיות גרפילד הצעיר בן שנתיים. לאחר מות האב נאלצו אמו של גרפילד וארבעת ילדיה להתמודד עם חיי עוני ועבודה קשה. עד גיל 16 עבד גרפילד בחווה המשפחתית ולאחר מכן החל לסייע בפרנסת המשפחה כחופר תעלות.

ג'יימס אברהם גרפילד (מתוך מאגר אימג'בנק / GettyImages)
בשנת 1849 החל ללמוד בבית ספר מקומי. ב-1851 המשיך ללימודים בבית ספר דתי נוצרי (Western Reserve Eclectic Institute) שם החל מאוחר יותר לעסוק גם בהוראה ונשיאת דרשות. כבר באותם ימים נחשב לנואם מוכשר ובעל כושר ביטוי יוצא דופן. ב-1854 החל ללמוד בויליאמס קולג' (Williams College) במדינת מסצ'וסטס. לאחר שנתיים סיים את לימודיו בהצטיינות וחזר ללמד שפות עתיקות בבית הספר הנוצרי. מאוחר יותר היה למנהל בית הספר.
בשנת 1858 נישא גרפילד ללוקרישיה רודולף (Lucretia Rudolph), חברת ילדות מבית ספרו הראשון. לזוג נולדו שבעה ילדים (חמישה בנים ושתי בנות).
בשנת 1856 החל גרפילד בפעילות פוליטית והתגייס לטובת מועמד המפלגה הרפובליקנית
לנשיאות, ג'ון פרמונט (John Frémont) ב-1859 נבחר לסנאט של מדינת אוהיו. במהלך כהונתו הצליח לקשור יחסים אישיים עם מספר מחברי הנהגת המפלגה, במקביל למד עריכת דין במשרד עורכי דין בקליוולנד. ב-1861 הוסמך כעורך דין.
באותה שנה פרצה מלחמת האזרחים האמריקנית
וגרפילד התגייס לסייע בגיוס מתנדבים לצבא ארה"ב. מאוחר יותר מונה לסגן מפקד יחידת המתנדבים מאוהיו (the 42nd Ohio Volunteer Infantry) אותה סייע להקים, ולאחר מכן למפקד היחידה. פיקד על חייליו בקרב מול צבא הקונפדרציה (מדינות הדרום הפורשות) בקנטקי, לאחר הקרב הועלה בדרגה לבריגדיר גנרל (brigadier general) של חיל המתנדבים. השתתף בעוד מספר קרבות ולקראת סוף המלחמה קודם שוב בדרגה למייג'ור גנרל (major general).
ב-1863 נבחר גרפילד לבית הנבחרים של ארה"ב (ובשל כך שוחרר משירותו הצבאי) הוא כיהן בתפקיד זה עד ל-1880. בתום המלחמה תמך גרפילד במדיניות קשוחה כלפי מדינות הדרום המנוצחות, והשלטת (גם בכוח) רפורמות חברתיות וכלכליות. במהלך כהונתו הפך לאחד ממנהיגי המפלגה וב-1876 מונה לראש הסיעה הרפובליקנית בבית הנבחרים. כמו כן נחשד פעמיים במעורבות בפרשות שחיתות. החשדות לא הובילו לכתבי אישום אולם שימשו כנשק פוליטי נגדו.
ב-1880 נבחר גרפילד לסנאט של ארה"ב, במקביל עסק בהכנות לקראת הבחירות לנשיאות כמנהל מסע הבחירות של שר האוצר ג'ון שרמן (John Sherman), שהתמודד על המינוי כמועמד הרפובליקני. באותה העת היתה המפלגה הרפובליקנית חצויה לשני מחנות. בועידת המפלגה תמך מחנה אחד במועמדותו של הנשיא יוליסס ס' גרנט
והמחנה השני במועמדותו של ג'יימס ג' בליין (James G. Blaine).
גם לאחר מספר סיבובי הצבעה לא הצליח אף אחד מן המועמדים להשיג רוב מכריע בקרב צירי הועידה. לבסוף הגיעו שרמן ובליין להסכם כי גרפילד ישמש כמועמד של פשרה (מכיוון שהיה תומכו של האחד וידידו של האחר). על בסיס תמיכתם המשותפת של שרמן ובליין הצליח גרפילד לנצח את גרנט ונבחר למועמד המפלגה. צ'סטר אלן ארתור
מתומכיו של גרנט מונה כמועמד המפלגה לסגן נשיא.
בבחירות שנערכו ב-1880 ניצח גרפילד את המועמד הדמוקרטי וינפילד ס' הנקוק (Winfield S. Hancock) ובמרס 1881 הושבע כנשיא. העימות בין המחנות במפלגה הרפובליקנית לא פסק עם כניסתו של גרפילד לתפקיד וזמן קצר לאחר מכן נקלע לעימות מול כמה מנהיגי המפלגה (בראשם הסנאטור רוסקו קונקלין, Roscoe Conkling) לגבי מינוי בעלי תפקידים בממשל הפדרלי.
ב-2 ביולי 1881 בעודו ממתין בתחנת רכבת בוושינגטון בדרכו אל ניו אינגלנד נורה גרפילד על ידי מתנקש - צ'רלס גיטו (Charles Guiteau) קנאי דתי שנכשל במאמציו להשיג עבודה בממשל הפדרלי. לאחר הירי הסגיר גיטו את עצמו לידי המשטרה וטען כי ירה בנשיא על מנת: "לאחד את המפלגה הרפובליקנית ולהציל את הרפובליקה".
| נשיאי ארצות הברית |  |
|
במשך יותר מחודשיים שכב גרפילד בבית הלבן, פציעתו החמורה לא אפשרה לו לתפקד. את מקומו כנשיא בפועל תפס סגן הנשיא צ'סטר, אך בשל הערפול בחוקת ארה"ב לגבי מצב בו הנשיא אינו מסוגל למלא את תפקידו, לא הושבע כנשיא הרשמי של ארה"ב. מספר דיונים שהתנהלו בנושא בהנהגת הממשל הסתיימו בהחלטה שלא להחליט. זמן קצר לפני מותו הועבר לבית בניו-ג'רזי ששכן לחופי האוקיינוס האטלנטי. ב-19 בספטמבר נפטר גרפילד מזיהום ודימום פנימיים. יום לאחר מותו הושבע במקומו סגן הנשיא צ'סטר.