بتل کد Battle Codeدارد باز می‌شود…

جلسه‌ی 21: ویژگی و برچسب Features and Labels

در یادگیری ماشین هر مثال دو بخش دارد: ویژگی‌ها (X) که مدل می‌بیند و برچسب (y) که باید حدس بزند. چند ویژگی با هم بهتر از یکی کار می‌کنند.

در این جلسه یاد می‌گیری

درس

می‌خواهیم مدلی بسازیم که میوه را تشخیص دهد: سیب یا پرتقال؟ به مدل چه می‌دهیم؟ چیزهایی که می‌شود اندازه گرفت: وزن، میزان قرمزی، زبری پوست. به این‌ها ویژگی (feature) می‌گوییم. جواب درست، یعنی «سیب» یا «پرتقال»، برچسب (label) است.

در یک جدول، ویژگی‌ها ستون‌های معمولی‌اند و برچسب آخرین ستون. دانشمندان داده همیشه ویژگی‌ها را X (بزرگ) و برچسب‌ها را y (کوچک) می‌نامند. این یک قرارداد جهانی است، پس ما هم همین کار را می‌کنیم.

weight,redness,label
150,0.9,apple
170,0.2,orange
140,0.8,apple
180,0.3,orange

جدول را به دو لیست می‌شکنیم. X لیستی از لیست‌هاست: هر سطر یک لیست از عددهای ویژگی. y لیست برچسب‌هاست. سطر شماره‌ی i در X و برچسب شماره‌ی i در y به یک میوه مربوط‌اند؛ ترتیب را به هم نزن!

X = []
y = []
for line in data.splitlines()[1:]:
    w, r, label = line.split(",")
    X.append([float(w), float(r)])
    y.append(label)
print(X[0], y[0])    # [150.0, 0.9] apple

چرا چند ویژگی؟ فرض کن فقط وزن را داشته باشیم. یک سیب درشت ۱۷۰ گرم و یک پرتقال کوچک ۱۵۰ گرم همدیگر را قاطی می‌کنند. وزن تنها نمی‌تواند همه را جدا کند. اما وقتی قرمزی را هم اضافه می‌کنیم، سیب‌های قرمز از پرتقال‌های نارنجی جدا می‌شوند، حتی اگر وزنشان یکی باشد.

# only weight: 170 could be either
fruits = [[170, 0.9, "apple"], [170, 0.2, "orange"]]
for w, r, label in fruits:
    guess = "apple" if w < 165 else "orange"
    print(label, "-> weight guess:", guess)

یک قانون دستی با دو ویژگی: اگر قرمزی بیشتر از ۰.۵ بود سیب، وگرنه پرتقال. این هنوز هوش مصنوعی نیست (قانون را خودمان نوشتیم)، ولی به ما یاد می‌دهد مدل را چطور امتحان کنیم: روی همه‌ی مثال‌ها حدس بزن و بشمار چند تا درست بود. درست‌ها تقسیم بر همه می‌شود دقت (accuracy).

def rule(features):
    weight, redness = features
    if redness > 0.5:
        return "apple"
    return "orange"

correct = 0
for i in range(len(X)):
    if rule(X[i]) == y[i]:
        correct = correct + 1
print("accuracy:", correct / len(y))

ویژگی‌ها باید عدد باشند. اگر ویژگی متنی داری (مثلاً رنگ: red، orange)، باید به عدد تبدیلش کنی؛ مثلاً red بشود ۱ و orange بشود ۰. در جلسه‌های بعد خواهیم دید که مدل‌ها فقط با عدد کار می‌کنند، چون فاصله و ضرب فقط برای عدد معنی دارد.

colors = ["red", "orange", "red", "green"]
codes = {"red": 1, "orange": 0, "green": 2}
numbers = [codes[c] for c in colors]
print(numbers)   # [1, 0, 1, 2]

اشتباه رایج: برچسب را هم داخل X گذاشتن! آن‌وقت مدل جواب را می‌بیند و تقلب می‌کند؛ دقتش ۱۰۰٪ می‌شود ولی روی میوه‌ی جدید که برچسب ندارد به درد نمی‌خورد. به این «نشت داده» می‌گویند. برچسب فقط در y.

مثال‌های این جلسه

چالش‌ها

  1. Split X and y (آسان)
  2. Count the Labels (آسان)
  3. Weight Alone Fails (متوسط)
  4. Two Features Win (متوسط)
  5. Text Features to Numbers (سخت)
  6. Best Single Threshold (سخت)

بیشتر بخوان

← جلسه‌ی 20: پروژه: کارنامه‌ی کلاس جلسه‌ی 22: k-NN با چند ویژگی →