Machine Learning: Step-by-Step Guide To Implement Machine Learning Algorithms with Python

 
Mini-Batch Gradient Descent
Because you already know the batch and the stochastic algorithms, this kind of
algorithms is very easy to understand and work with . As you know, both
algorithms calculate the value of the gradients, based on the whole training set or
just one instance. However, the mini-batch calculates its algorithms based on
small and random sets, and performs better than the other two algorithms.

---

Polynomial Regression
We’ll use this technique when working with more complex data, especially, in
the case of linear and nonlinear data. After we’ve added the powers of every
feature, we can train the model with new features. This is known as polynomial
regression.
Now, let’s write some code.
L = 100
V1 = 6*np.random.rand(L, 1) – 3
V2 = 0.5 * V1**2 + V1 + 2 + np.random.randn(L, 1)
As you can see. the straight will never represent the data in the most efficient
way. So we'll use the polynomial method to work on this problem.
>>>from sklearn.preprocession import PolynomialFeatures
>>>P_F = PolynomialFeatures(degree = 2, include_bias=False)
>>>V1_P = P_F.fit_transform(V1)

---

>>>V1[0]
Array([num])
>>>V1_P[0]
Now, let’s make this function properly with our data, and change the straight
line.
>>> ln_r = LinearRegression()
>>>ln_r.fit(V1_P, V2)
>>>ln_r.intercept_, ln_r.coef

---

Learning Curves
Assume that you’re work with polynomial regression, and you want it to fit the
data better than with the linear one . In the following image, you’ll find a 300-
degree model . We can also compare the final result with the other kind of the
regression: “normal linear”.
In the above figure, you can see the overfitting of data when you’re using the
polynomial. On the other hand, with linear one, you can see that the data is
obviously being underfitted.

---